使用大型语言模型（LLM）的明智策略：验证与高效并行

在探索大型语言模型（LLM）的潜力时，Kareem Carr强调了一个核心原则：避免依赖LLM获取无法自行验证的信息或执行无法核实的任务。这一原则为有效利用LLM划定了清晰的界限，确保信息的准确性和可靠性。

原则一：验证为先

Carr明确指出，对于关键性任务，如文献综述或专业研究总结，直接向LLM提问往往不是*选择，因为这些输出的验证难度较高。相反，他建议提出更具可操作性和可验证性的请求，如请求一份*评论文章的清单，这样既能确保信息的来源可靠，也便于后续验证。

优化提示技巧

为了提升LLM输出内容的质量，Carr分享了几个实用的提示编写技巧：

1. 设定明确上下文：通过指定信息来源、使用专业术语，引导LLM在正确的知识框架内工作。
2. 明确*指导：对于特定问题，如数学求解，明确指示LLM使用特定*，以提高准确性和效率。
3. 定义输出格式：根据需求，要求LLM以特定格式（如代码、数学公式、文章等）呈现结果，便于后续使用。

验证与多源验证

尽管LLM能够提供丰富的信息，但Carr强调了对输出内容进行严格验证的重要性。这包括检查信息的一致性、通过搜索引擎验证术语和来源、甚至编写代码进行实测。此外，他还建议多次提问或使用多个LLM工具，以获得更全面的视角和更可靠的答案。

引用与生产力提升

在引用方面，Carr指出LLM有时会生成不存在的参考文献，即所谓的“幻觉”问题。然而，他也发现这些虚构的引用中往往包含有价值的关键词和术语，通过进一步搜索这些词汇，可以接近真实的信息源。

至于生产力提升，Carr认为LLM虽不能直接将生产力提升数倍，但在优化工作流程、加速繁琐任务、辅助学习新技能等方面具有显著作用。他特别提到，LLM帮助他减少了在决策和规划上的时间消耗，使他能更专注于核心任务。