方志的渊源，历来众说纷纭，争论不休。大体有以下几种说法：
①方志起源于史。如梁启超说：“最古之史，实为方志。”
持这种观点的学者，认为方志起源于《周官》。所谓周官指周朝王室的官制，后成书《周礼》亦称《周官》，宋代司马光在《河南志序》中认为，周官中的职方、土训、诵训的职掌，于后世方志都不无相似之处。清代方志学家章家诚从“志为史体”角度出发，认为春秋战国时期那些记载地方史事的书籍，如晋之《乘》、楚之《祷杌》、鲁之《春秋》等，应是最早的方志。后代许多学者也认为这些史书，类似后来地方志，具有地方志的雏形，应称为方志之源。
②方志脱胎于地理著作。即所谓方志来源于《禹贡》、《山海经》之说，认为方志是从舆地学科（地理书）演变而成的。禹贡是《尚书》中的一篇，作者不详，著作时代无定论，近代多数学者认为约在战国时。这部书用自然分区方法，记述当时我国的地理情况，把全国分为九州，假托为夏禹治水以后的政区制度，详细记载了当时黄河流域的山岭、河流、薮泽、土壤物产、贡赋、交通等。长江、淮河等流域也有记载，但较为粗略。是我国最早一部科学价值很高的地理著作。《山海经》，共有18篇，是由《山经》、《海经》、《大荒经》等3部分组成，作者不详，各篇著作时代亦无定论，近代学者多数认为不出于一时一人之手，其中14篇是战国时作品，《海经》内四篇则为西汉初年作品。内容主要为民间传说中的地理知识，包括山川、道里、民族、物产、药物、祭祀、巫医等，保存了不少远古的神话传说。事实上，从体裁到内容，这两部地理书对方志的形成和发展影响很大，致使历代地方志，多与地理书混杂相兼。
③《越绝书》、《吴越春秋》、《华阳国志》为方志的鼻祖。
持这种观点的学者，是从这几本书的体例和内容更近似方志而言的。认为方志应兼史、地之长。因此，清代方志学家洪亮吉在《澄城县志》序中说：“一方之志，始于《越绝》。”
《越绝书》15卷，为东汉袁康所撰，记述春秋战国时期越国地方（今浙江和江苏一部分地区）的历史沿革、城市建设、山川、人物、生产情况和风俗习惯等内容，与后世方志的体例、内容很相近。《吴越春秋》全书15卷，为东汉赵烨撰，记吴越二国兴亡始末，今存10卷，前五卷叙吴，起自太伯，迄于夫差，后5卷记越，始于无余，终于勾践。是书只记人物，不载地理及都邑，就方志而论，虽比不上《越绝书》充实和周备，但对后世影响也很大。为此，范文澜认为“东汉会稽郡人赵烨著《吴越春秋》，又有无名氏著《越绝书》，两书专记本地掌故，开方志的先例”。《华阳国志》，晋·常璩撰，全书12卷，附录一卷，记述以巴蜀为中心的西南地区的地理沿革和历史变迁。对于政治、历史人物等方面的记载尤为详尽。也有些学者认为它是方志的前身。对此，谭其骧教授有不同看法，他认为“史”与“志”不同，东汉的《越绝书》、《吴越春秋》以及《华阳国志》，与隋唐以后的地方志不同，是地方史。近来，有的专家学者认为，方志应当出现于秦汉统一的国家之后，它发端于《地记》。
④方志多源说。以上几种说法，都能言之成理，持之有故，故长期并存，但却互相排斥。现在不少的地方志专家、学者认为，一门新学科的诞生，往往不会突然出现的，而是在相当长时间的过程中逐渐形成的。方志就是由史、书、志、记、录、传、图、经等各种不同体裁的书籍，互相渗透和逐渐融合而来的一种特定体裁的著作。因此，方志并非起自一源，而是起自多源。我国地方志，是在历史的长河中，从各方面汲取源泉而逐步演化而来的。
