ヴァイマル出身。彼が生まれた時に名付け親となったのは、父の友人ゲオルク・フィリップ・テレマンであった。彼の名前にある「フィリップ」は、テレマンの名前にちなんだものである。1717年、家族と共にケーテンに移り、1723年には父のトーマスカントル就任とともにライプツィヒに転居した。10歳のとき、父親がカントルを務めるトマス教会附属学校(トーマスシューレ)に入学。1731年にライプツィヒ大学に進学した後、1734年にフランクフルト・アン・デア・オーダーのヴィアドリーナ大学(Alma Mater Viadrina)に転学し、1738年に法学で学位を取得するが、間もなく司法生としての行く手を断念し、音楽に献身しようと決心する。