历史文献在积累过程中便不断被人们所利用。人们整理历史文献，一方面是为了保存它，另一方面是为了利用它，而归根到底还是为了利用。
文献，是人们借以认识和说明历史的根据，这一点，孔子已经指出来了[27]。历史文献的积累和整理，是历史撰述的前提。刘知幾这样说：
观夫丘明受经立传，广包诸国，盖当时有《周志》、《晋乘》、《郑书》、《楚杌》等篇，遂乃聚而编之，混成一录。向使专凭鲁策，独询孔氏，何以能殚见洽闻，若斯之博也？马迁《史记》，采《世本》、《国语》、《战国策》、《楚汉春秋》。至若班固《汉书》，则全同太史。自太初已后，又杂引刘氏《新序》、《说苑》、《七略》之辞。此并当代雅言，事无邪僻，故能取信一时，擅名千载。[28]
刘知幾又说：
刍荛之言，明王必择；葑菲之体，诗人不弃。故学者有博闻旧事，多识其物，若不窥别录，不讨异书，专治周、孔之章句，直守迁、固之纪传，亦何能自致于此乎？且夫子有云：“多闻，择其善者而从之。”“知之次也。”苟如是，则书有非圣，言多不经，学者博闻，盖在择之而已。[29]
刘知幾的这两段话，意在说明史家必须广泛地涉猎历史文献，才有可能写出信史、佳篇。同时，他也指出了历史文献有“雅言”和“别录”的区别，以及史家对它们所应当采取的态度。史家只有博采“雅言”，才能使史书“取信一时，擅名千载”；善择“别录”，才能“博闻”、“多识”，把史书写得丰赡而多彩。
博洽和严谨，是中国史家在利用历史文献中所表现出来的优良传统。这在一些有重大成就的史学家身上，尤为突出。举例说来，如司马迁著《史记》，撰通史，以黄帝为历史的开端，他是经过认真研究、反复思考的。司马迁在《五帝本纪》后论中，陈述了他思考的轨迹。首先，他认为“百家言黄帝，其文不雅驯”，有许多不可信之处，反映出了他的辨伪的意识。其次，他认为“书缺有间矣，其轶乃时时见于他说”，反映出他对历史文献之流传散失、辑佚的认识。再次，他考察了《春秋》、《国语》所记同《五帝德》、《帝系姓》的关系，从而证明“其所表见皆不虚”，确定了他撰《五帝本纪》的决心。最后，还可以看出司马迁对于历史文献的博览和善择的方法；而他通过社会调查所得来检验历史文献所记的真实性的方法，使后人不能不叹服他的高见卓行。
史学家对历史文献的运用，在抉择去取上越是严谨，其所著史书越是接近于信史。《史记》被后人称赞是“其文直，其事核，不虚美，不隐恶，故谓之实录”[30]，就是这个道理。在这方面，司马光也堪称史家的典范。司马光撰《资治通鉴》，参考群书，博览异说，为阐明去取之由，于本书正文之外，另撰《资治通鉴考异》30卷，与正文并行。从对于历史文献的利用来看，这是给后人留下一部怎样利用历史文献的教材。历代学者对此多有佳评，认为《考异》的作用是“参考同异，俾归一途”[31]，“参诸家异同，正其谬误，而归于一”[32]。这里所谓“俾归一途”、“而归于一”，是指经过比较和考核，于诸说之中辨别出一个正确的说法来；或某事为他史所采，而《资治通鉴》何以不采，《考异》则说明其所以然者。如《资治通鉴》卷206记武则天圣历元年（698年），武承嗣、武三思都争着想做太子，而武则天根据狄仁杰等人的建议，终于召回庐陵王李显，立为皇太子事。关于此事，《考异》先后引用了《狄梁公传》、《谈宾录》、《御史台记》、《新唐书·狄仁杰传》、《朝野佥载》等书关于此事的记载，最后说：“今采众说之可信者存之。”又如唐玄宗命姚崇为相事，《新唐书·姚崇传》记：“崇知帝大度，锐于治，乃先设事以坚帝意。”于是写出了姚崇以十事相问，要玄宗表示是否可行。而《资治通鉴》卷二百一十玄宗开元元年（713年）记玄宗拜姚崇为相，不载姚崇“设事以坚帝意”之事。对此，《考异》称：“世传《升平源》，以为吴兢所撰。”接着，它详细征引《升平源》所记姚崇“以十事上献”而后接受皇命之事。《考异》最后写道：“当时天下之事，止此十条，须因事启沃，岂一旦可邀！似好事者为之，依托兢名，难以尽信，今不取。”《资治通鉴》所记许多史事，都在《考异》中有类似的说明。由此可见司马光撰《资治通鉴》，对历史文献有广博的阅览和谨慎的采用。从历史撰述的形式来看，《考异》也可以说是为《资治通鉴》作了翔实的注释。清代学者评价《考异》说：“光编集《通鉴》，有一事用三四出处纂成者。……其间传闻异词，稗官既喜造虚言，正史亦不皆实录。光既择可信者从之，复参考同异，别为此书，辨正谬误，以祛将来之惑。昔陈寿作《三国志》，裴松之注之，详引诸书错互之文，折衷以归一是。其例最善，而修史之家，未有自撰一书，明所以去取之故者，有之，实自光始。”[33]
从司马迁、司马光撰述历史过程中对文献的利用，可以想见史家之利用历史文献的一般情况。史家对历史文献的利用，不独表现于撰史，而且还表现在注史。裴松之《三国志注》、胡三省《资治通鉴注》等，是注家善于博采历史文献作注的名作。
史家对历史文献的利用，总是会受到一定的思想和理论的支配的。例如，刘知幾《史通·六家》把《尚书》、《春秋》视为史书的两家，所以他能写出《疑古》、《惑经》这样具有鲜明的批判性的篇章。朱熹强调读经是主要的，读史是次要的，这就又严格了“经”与“史”的界限。章学诚倡言“六经皆史”，把经书作为反映历史面貌的文献看待，从而最终摘去了经书的神圣面纱，扩大了人们对历史文献认识的范围。
中国学人对历史文献的利用，还有一点是值得注意的，这就是自南北朝以降，学人多注重编纂总集、类书、丛书，既保存了丰富的文献，又大大方便了人们对文献的利用。从宋代开始，中国学人注意于金石文字的研究，欧阳修的《集古录》10卷、赵明诚《金石录》30卷，是这方面的杰作。近代以来，由于考古新发现和考古学发展，在甲骨文、金文、碑刻、墓志、简牍、帛书等方面的汇编和利用，都有重大的成绩，并促进了一批新兴学科的产生。