我们知道了书的真伪，但问题尚未完全解决；因为在真书上的史料，有些也是需要辨证的。例如在史籍上我们常常可以看到，同一史实，各书记载互异；同一原文，彼此引述不同；或采摭古书而不记出处，或商榷前世而全违故实。以致事实讹谬，文字错舛，真伪混淆，是非参差。若不加以辨证而随便引用，则不但异说纷纭，无所适从；必至纰缪相因，以讹传讹。所以在辨别书的真伪以后，我们又碰到第三个难题，就是史料的辨证问题。
帮助我们解决这一难题的是考据学。这种学问，很早就有人做，汉人的经注已开其端。自晋以后，辨证史籍的人一天天多起来。如裴骃注《史记》，颜师古注《前汉书》，李贤注《后汉书》，对于原书的文句音义多所解释。裴松之注《三国志》，对于原书的史实多所增补；如有异说，并录备参考。刘攽、吴仁杰的《两汉刊误》，对于原书上的文字错舛多所勘正；吴缜的《新唐书纠谬》，对于原书上史料的讹谬多所纠正。这些，都是考据学的先导。
到了清代，考据学就大大的发展了。在清代，学者因受政治的压迫，不能涉及与现实有关的学问，于是骋其聪明才力，埋头于故纸堆中，从事于与现实无关的考据之学。因而中国的古典文献，无论经书、子书或史书，大部分都经过了一番考证。对于各种史籍中的史实，凡有可疑的，无不探源索隐，钩陈辑佚，考异正讹，纠谬质疑，使其本源大白，讹误自明，异说并陈，是非自见。
清代辨证史料的著述甚多，其中有通辨诸史的，有专辨一史的。通辨诸史的书，最有名的，是钱大昕的《二十一史考异》，王鸣盛的《十七史商榷》，赵翼的《廿二史劄记》。钱书的特点，是对原书上文字的校正，名物的训释，考订史实，则其余事。王书的特点，是在考证原书上的典章制度以及史实的樛葛，使之关节疏通，脉络摇转，至于校释文句，则其余事。赵书的特点，则在提出原书中的重要问题，罗列史料而予以论列，若校勘史实的矛盾，则其余事。三书各致力于一个方面，若融合而贯通之，则对史料之辨证，可以获得多方面的知识。又武英殿版二十四史，每篇之后都附有考证，校文释义，考异致疑。此外，通辨诸史的书，尚有杭世骏的《经史质疑》，钱大昕的《诸史拾遗》，洪颐煊的《诸史考异》，洪亮吉的《四史发伏》，李贻德的《十七史考异》（未刊），宋书升的《二十四史正讹》（未见传本）等。
专辨一史的书，以辨四史者最多。以四史文体较古，窜乱亦多，特别是《史记》，自冯商、褚少孙以后，窜乱者十余家，若不加以辨证，则真伪相乱，无从辨识。在清代，考证《史记》的著作，有钱坫的《史记补注》，惜其书未刊；梁玉绳的《史记志疑》，杭世骏的《史记考证》，王念孙的《读书杂志》，邵泰衢的《史记疑问》。这些书，对于《史记》上的纰缪，纠正甚多。此外，尚有崔适的《史记探源》，则专辨后人窜乱的部分，欲使《史记》恢复司马迁的原书。
考证两《汉书》、《三国志》的著作，其数量亦不减于《史记》。其中考证《汉书》的，多侧重于文字的校正；考证《后汉书》的，多侧重于史实的纠谬。《后汉书》上的史实之所以有纠正的可能，是因为当时已经辑出了许多后汉史的佚书。至于考证《三国志》的著作，则其内容，皆系补佚考异。
自《晋书》以下的诸史，辨证的书虽不及四史之多，但诸史皆有考证之书。此外，尚有专辨某史某一部分的著作，如考证诸史中之书志，特别是地理志和艺文志。
从这里，我们可以看出，中国文献上的史料，在清代曾经经过一度精密的考证。清代的学者，或通考诸史，或专考一史，或仅考一史中的某一部分，皆能摭拾遗佚，博采群书，属辞比事，刊误释疑。他们辛勤的劳绩，自然是中国学术史上一笔很大的遗产。但是对于史料辨证，清代的学者，也还没有做完，而且也不见得做得尽对；因而还留下不少的问题，等待我们来解决。
以史料的范围而论，清代学者所考证的史料，只是中国史料中的一半，即文献上的史料；至于考古学上的史料，则做得非常不够。这固然是因为当时许多考古学的史料，如新、旧石器文化遗物、甲骨文及汉晋简牍等尚未发现，同时也是因为他们还不认识地下出土的史料之价值。因为在当时并不是完全没有考古学的资料，如殷周之彝鼎，两汉之石刻画像，早已呈现在当时学者之前，但均未被引用为考证古史的资料。
认识考古学上的史料，不是一件容易事情。因为考古学上的史料，和矿石一样，是混在岩石里面的，没有发达的选矿学的知识，即使摆在眼前，也是不能认识的。例如以殷周青铜器物而论，自汉至唐，即偶有发现，但当时之人，不以为史料，而以为神瑞。北宋以后，青铜器物出土更多，学者虽释文考字，但亦未以为史料，而以为玩赏。又如古代简牍，在两晋、南齐、北宋，都有发现；但当时学者不知这是一种珍贵史料，以致散失。今日所存之汲冢遗书，除《周书》或有一部分简牍遗文，其余《穆天子传》、《竹书纪年》，大半都是伪托之书。又如殷墟出土的甲骨文，当发现之初，有些头脑顽固的学者如章太炎，硬说是古董商人假造的。又如晚近以来，中国各地先后发现之新、旧石器时代的遗物，虽然已被中外考古学家确证为中国史前时代的文物，但有些学者，至今还表示怀疑。从这里，我们对于清代学者之不知道利用考古学的资料去辨证文献上的史料，是不足奇怪的。
即因不知道利用考古学上的资料及没有考古学的发现做资料去考证史料，所以清代学者的考据学，就只是拘束在文献的部门之中。他们使用的方法，也就是以文献考证文献，即以甲书上的史料辨证乙书上的史料，以真书上的史料订正伪书上的史料，以各书上一般的通论，指斥某一书上独特的异说。这种方法，用以有史以后的史料之考证是可以的；若用于史前史的资料之考证，那就无异以伪辨伪，以疑证疑，结果，还是疑伪。所以清代学者对史前史料的考证，结果只是在神话传说中兜了一些圈子，弄得头昏目眩而一无所得。即对于殷周史，也大半是徒劳无功。至于秦汉以下的史实考证，跟着汉晋木简、唐人写经，以及汉代石刻画像等之发现和其他史籍以外的诸文献之广泛的引用，也有许多要被修正、被补充的地方。
即以文献考文献而论，清代学者也没有考完。例如从他们对诸史之书志考证看来，大半侧重于地理和艺文，其他书志，如天文、律历、人表，虽亦间有考证，但不甚多，至于有关社会经济之食货志，有关阶级抑压之刑法志，有关风俗习惯之舆服志，则绝无考证。此外，包含在历代文艺作品中之最足以反映各时代人民要求的史料，也没有当作史料，被提炼出来。
晚近以来，对于考古学上的史料之考证，已经有了相当的成就，但也不是到了我们就没有事情可做。例如若干青铜器物的时代，尚待考证；若干甲骨文字的字义，尚待训释，若干汉代的石刻画像，尚待说明；所有的汉晋木简、唐人写经，尚待整理和考释。特别是新、旧石器时代的文化遗物，如古人类、古生物的化石，骨角器物，研磨石器和彩陶等，都需要我们做详细而精密的科学研究，才能变成史料。
因此，我们现在对史料考证的任务，是一面批判地接受清代学者对文献上的史料之考证的成果；另一方面，又要开辟一种新的考据学，进行对考古学上的资料之考证。用现在既存的考古学的资料，去衡量清代学者考证过的史料，使考古学的资料与文献上的资料结合为一，然后史料的考证，才算达到最后的完成。
