来源:社科学术汇
著名的AI经济学家Anton Korinek发表工作论文“Language Models and Cognitive Automation for Economic Research”探讨了大语言模型LLM与认知自动化对经济学研究的影响,值得所有从业的经济学家认真阅读:一方面,文章提供了详细的应用方式指南,包括论文构思、论文写作、背景研究、代码编写、数据分析、数学推导等25种应用;另一方面,更重要的是作者对经济学家的使命与作用提出了发人深省的讨论。
Korinek, A. (2023). Language Models and Cognitive Automation for Economic Research. NBER Working Paper, No. 30957
Large language models (LLMs) such as ChatGPT have the potential to revolutionize research in economics and other disciplines. I describe 25 use cases along six domains in which LLMs are starting to become useful as both research assistants and tutors: ideation, writing, background research, data analysis, coding, and mathematical derivations. I provide general instructions and demonstrate specific examples for how to take advantage of each of these, classifying the LLM capabilities from experimental to highly useful. I hypothesize that ongoing advances will improve the performance of LLMs across all of these domains, and that economic researchers who take advantage of LLMs to automate micro tasks will become significantly more productive. Finally, I speculate on the longer-term implications of cognitive automation via LLMs for economicresearch.
作者认为,短期内LLMs的发展会提升经济学研究的效率,主要应用如图。但是,“很难预测认知自动化将如何不同地影响研究的不同领域,例如,理论家是否会是最后一批留下来的人,因为他们的能力被证明很难被LLMs复制,或者更先进的针对数学应用进行微调的LLM是否会胜过人类并比其他经济学分支更快地自动化理论工作?经验主义者是否会占据优势,因为收集新数据的过程涉及许多难以自动化的步骤?”
长期来看,作为经济学家,需要关注以下问题:
认知自动化对劳动力市场将意味着什么?它是否也会加速物理任务的自动化?我们的社会如何最好地为即将到来的变革做好准备?
认知自动化对教育的影响是什么?人力资本是否会贬值?
认知自动化将如何影响技术进步和经济增长?如果人力劳动可以自动化,未来的增长瓶颈将是什么?
最重要的,我们如何最好地解决AI对齐问题,即确保越来越先进和潜在超级智能的AI系统追求与人类目标一致的目标?
大语言模型
LLMs是基础模型的一类,可以被视为2020年代人工智能的新范式。基础模型是大型深度学习模型,参数数量达到10的11次方并且还在不断增长。它们通过预先训练大量数据来创建一个基础,然后通过一种称为微调的过程来适应不同的应用。
Kaplon等提出“LLMs的拟合优度,根据它们的对数损失进行测量,根据训练计算量的幂律函数改善,即模型训练所执行的计算次数,以及参数数量和训练数据大小。”因此,当数据与参数规模到达一定阈值后,LLMs会表现出远超其他模型的通用能力。
大语言模型在经济学研究中的应用
作者根据自身经验,分类讨论了大语言模型的应用方式,以下列出实际的案例:
1.Ideation 构思
1.1 Brainstorming 头脑风暴
1.2 Evaluating ideas 评估想法
1.3 Providing counterarguments 提供反对意见
2.Writing 写作
2.1 Synthesizing text 生成文本
2.2 Editing text (for mistakes, style, clarity, simplicity, ...) 编辑文本
2.3 Evaluating text 评估文本
2.4 Generating catchy titles & headlines 生成标题
2.5 Generating tweets to promote a paper 生成推文以推广论文
3.Background Research 背景研究
3.1 Summarizing Text 总结文本
3.2 Literature Research 文献检索
3.3 Formatting References 引文格式
3.4 Translating Text 翻译文本
3.5 Explaining Concepts 解释概念
4.Coding 代码
4.1 Writing code 写代码
4.2 Explaining code 解释代码
4.3 Translating code 翻译代码
4.4 Debugging code 检查代码
5.Data Analysis数据分析
5.1 Extracting data from text 从文本中提炼数据
5.2 Reformatting data 修改数据格式
5.3 Classifying and scoring text 文本分类
5.4 Extracting sentiment 提炼情感
5.5 Simulating human subjects 人类主观推理
6.Mathematical Derivations 数学推导
6.1 Setting up models 建立模型
6.2 Deriving equations 推导方程
6.3 Explaining models 解释模型
转自:“经管学苑”微信公众号
如有侵权,请联系本站删除!