Charlesworth 官方博客分享 http://blog.sciencenet.cn/u/Charlesworth

博文

Chatgpt可以帮忙写论文,高校对此有什么应对措施? 精选

已有 6062 次阅读 2023-5-17 10:02 |个人分类:论文写作|系统分类:观点评述

ChatGPT采用交互式对话界面,根据用户输入的指令以近似人类交流的方式作出回应,自问世以来一直令世人为之惊叹。目前,ChatGPT已成为有史以来用户增长速度最快的应用程序。


与此同时,研究人员对学术写作的关注程度与日俱增。人工智能技术的热潮带动了一系列学术写作工具的开发,例如运用大型语言模型(LLM)实现引文检索和格式调整、文档排版和文献总结。类似ChatGPT的智能工具有助于作者快速生成条理清晰、语法正确和结构合理的文本。此外,研究人员可以运用这些工具质疑某个论点,编写代码,创建推特推文串(Twitter threads),完善句子,思考文章标题,甚至编辑和校对论文。


然而,由于ChatGPT等生成式人工智能(generative AI)的功能日益强大,相关技术在学术写作领域的应用备受质疑。随着科技日新月异,生成式人工智能领域也在突飞猛进,目前业界正在讨论应该如何将有关技术应用于学术研究。以下是过去数月的行业重大动向。


微软发布基于ChatGPT技术的新版必应(Bing)搜索引擎

微软于2023年2月发布了最新版搜索引擎必应(Bing),采用了与ChatGPT同源的升级版人工智能技术。新版必应(new Bing)搜索引擎基于GPT-4,可检索近期热点新闻,引用近一小时内发表的新闻报道,其优势在于能够针对用户的搜索查询提供最新资讯及带有注释的搜索结果


OpenAI发布ChatGPT4

2023年3月14日,OpenAI正式发布其大型语言模型的最新版本GPT-4,有望在多方面超越GPT-3。GPT-4的改进之处包括以下几点:增强了针对用户问题生成创造性答案的能力;采用多模态模型(支持文本和图像输入并作出回应);提高正确回应的可能性(减少人工智能“幻觉”),以及更大的上下文窗口(有助于更好地“记忆”之前的聊天记录)。GPT-4还支持多种语言。用户可通过订阅 ChatGPT Plus获得对GPT-4的有限访问权限。


谷歌发布基于生成式人工智能的聊天机器人Bard

5月11日,谷歌I/O开发者大会上,作为本次大会的重头戏,谷歌公布了最新的大语言模型PaLM 2,并希望借此“逆袭”,在理解、生成和翻译文本方面有了很大提升和改进。在推理方面,PaLM 2的数据集包括科学论文和带有数学表达式的网页,拥有超强的逻辑、常识推理和数学能力。跟ChatGPT类似,Bard现在也可以跟其他外部工具进行集成使用,例如Adobe Firefly合作生成图片。此外,谷歌此次取消了等候队列,Bard将面向180多个国家和地区的用户全面开放。除了Bard,另一个重头落地场景是谷歌的全线办公套件Duet AI。该部分功能还没有对公众进行开放。


ChatGPT、Bing和Bard三者比较

三者之中,ChatGPT的人性化程度最高,在交互式对话方面表现出色,给出的答案也最完整准确。Bing从互联网获取信息的能力最强,但其对自然语言的理解和运用能力不及ChatGPT,它的优势在于搜集和整理信息。而Bard尽管在功能上有了诸多提升,但是回答问题时提供的信息存在一些数据错误、来源待考证等隐患,使用时需谨慎。


业界呼吁负责任地使用人工智能

用于检测人工智能生成文本的工具

为避免论文作者由于贪图方便而不当使用类似ChatGPT的工具撰写论文,用于识别相关行为的工具应运而生。其中包括GPTZeroAI文本分类器(AI text classifier),类似的检测工具将会不断改进,以应对生成式人工智能技术的迅速发展。


公开信

在OpenAI公司于今年3月份正式发布ChatGPT-4后不久,科技界人士和行业专家在一封联名公开信中呼吁业界在至少6个月内暂停开发比GPT-4更强大的人工智能系统。


联合国教科文组织(UNESCO)对此作出回应,要求各国立即执行其制定的《人工智能伦理问题建议书》(Recommendation on the Ethics of Artificial Intelligence immediately)。这一框架旨在指导各国最大限度发挥人工智能的优势,同时降低相关风险,获得所有成员国的一致通过。该建议书不仅包含相关原则和价值观,还针对所有相关领域提出详细的政策建议。


各国政府的应对措施

世界各国都在密切关注生成式人工智能的迅猛发展,并正在探索如何监管有关技术。例如:


意大利政府近日以涉嫌违反隐私保护条例为由,宣布暂时禁用ChatGPT,成为首个封禁该款人工智能聊天工具的西方国家。


英国政府最近呼吁各行业的监管机构利用现有法规对人工智能实施监管,并明确了企业在产品中使用人工智能时应遵循的基本原则,例如问责制、透明度、公平性、安全性和可竞争性等。英国政府目前并未对ChatGPT或任何其他人工智能技术加以限制,旨在确保企业负责任地开发和使用人工智能,并向用户提供具体决策背后的详细理据。


ChatGPT目前并未向中国用户开放访问权限。本月初,中国国家互联网信息办公室(网信办)发布了《生成式人工智能服务管理办法(征求意见稿)》,对国内企业开发生成式人工智能产品实施监管。这也是国内首个旨在规范人工智能领域的监管指引,而中国的科技公司目前已推出类似ChatGPT的产品,例如阿里巴巴的通义千问和百度的文心一言


各大高校的应对措施

学术机构普遍认为过度依赖生成式人工智能工具可能不利于学生培养原创性思维和提高写作技能。另一方面,全面禁止使用该类工具并非明智之举。一些权威学术出版商允许论文作者使用ChatGPT及类似工具进行学术写作,但强调需要提供书面声明和免责声明(参见往期文章。各大高校也在加紧监督和规范学生和研究人员使用人工智能生成文本的行为,以维护学术诚信。例如:


英国的巴斯大学(University of Bath)近期对本校的学术诚信行为准则指引(Code of Practice on Academic Integrity)进行审查,以确保将生成式人工智能工具的使用纳入监管范围。其中还明确界定在使用类似ChatGPT的工具时可能出现的潜在违规行为,如机器改写论文及通过人工智能获取答案或信息。该指引还提供一段探索如何使用人工智能工具的短视频供学生参考。


美国的南加州大学(University of Southern California)近期更新的学术指引建议教授们要么接受该软件并以此改进他们的课程,要么在要求学生提交原创性内容时对学生使用该软件的行为及时发现并加以劝阻。该指引还建议遵循核心学术期刊的投稿指引,(例如对使用人工智能语言模型来创建内容或协助论文写作的行为作出声明)。


总结

基于人工智能语言模型的新款应用不断涌现,有助于研究人员扩大学术产出。然而,相关应用在许多方面仍有待仔细权衡和检验。人工智能的发展如此迅猛,我们无法准确预测它在未来会产生什么后果。研究人员、学生、学术出版商和高校管理人员应该与时俱进,做好准备,处理好相关行为准则。尽管支持和反对的声音此起彼伏,人工智能应用的热潮仍将持续。明智的做法应该是考虑如何合理运用这些工具以及学术界应该如何应对这些工具。各国政府、学术出版商及各大高校必须发挥“领头羊”的作用,及时更新关于在学术写作中遵守学术道德并负责任地使用ChatGPT等工具的政策。


科学网2.png



https://m.sciencenet.cn/blog-3201402-1388332.html

上一篇:论文投稿后,怎么修改作者顺序?
下一篇:干货 | 论文中计量单位的正确写法

1 农绍庄

该博文允许注册用户评论 请点击登录 评论 (2 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-29 06:53

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部