这一次，ChatGPT被“点名批评”？ICML 2023论文征稿公告最新发布，禁用大规模语言模型！
作为前段时间全网最出圈的AI语言模型ChatGPT再一次被针对了，这一次是科研圈……
作为AI顶会之一的国际机器学习会议（ICML），于1月3日发布了2023年最新论文征稿公告，公布了论文提交日期为1月9日-1月26日，并重点声明了“禁止征稿使用大规模语言模型（LLM）”，其中就点名了ChatGPT。
文件地址：https://icml.cc/Conferences/2023/llm-policy
争议袭来
消息一出，立刻引发网友不满。其中，AI业界图灵奖得主大神，同时也是Facebook首席人工智能科学家杨立昆（Yann LeCun）转发了ICML的官方推特表示：大模型不行，意思是中小型语言模型还可以咯？
还有，微软研究院的ML基础团队主责任人塞巴斯蒂安·布赫（Sebastian Bubeck）评价称：ICML的道德准则是缺乏长远目光的，因为ChatGPT和变体是未来技术发展的其中一部分。禁令使用ChatGPT并不是解决学术抄袭问题的最优解。
多次被封
ChatGPT被针对已不是个例。但这已经不是ChatGPT第一次被禁。早在ChatGPT上线短短几天，用户突破百万大关正值火爆的时候，Stack Overflow就宣布了禁用，其在官方公告中表示禁用的目的是减少使用ChatGPT生成的答案席卷社区。同时官方给出了说明原因——ChatGPT回答的正确答案的平均比率太低，其创建的答案甚至对寻求答案的用户们来说是非常不利的。
公告地址：Temporary policy: ChatGPT is banned - Meta Stack Overflow
对此，OpenAI 的CEO 萨姆·阿尔特曼（Sam Altman）亲自出动，在推特上试图稳住ChatGPT用户的“军心”：许多人认为我们在审查ChatGPT，其实我们是在阻止其肆意捏造事实。在目前的技术状态下，要想取得平衡是很困难的。但相信随着时间的推移，它将变得更好，我们也将依据用户的反馈来改进它。
此外，就在昨天，ChatGPT还被纽约教育部门盯上了。据Chalkbeat消息，纽约市的教育部门近日决定了禁止学校的设备和网络访问ChatGPT，因为教育部门担忧学生们会依赖于AI生成论文，希望能杜绝此类“作弊”行为。
当地教育部门发言人Jenna Lyle 表示：ChatGPT或许能够迅速给出问题答案，但会养成学生的依赖行为，不利于培养学生自主解决问题的能力，对学术圈和终生教育无益。
未来担忧
技术与道德的双重担忧
大众一直以来对AI生成文本都有许多的忧虑，一部分是由于现阶段技术的不够成熟稳定，另一部分则来自于对社会传播的道德忧虑。
技术上，拿ChatGPT举例，不少用户表示在和ChatGPT交互的过程中，遇到了模型突然卡顿的情况。同时ChatGPT的回复中还出现了不少事实性错误，模型无法自主区分答案的真实性，无法连接搜索引擎的最新信息，生成的答案质量过低等问题。这类技术问题其实在AI生成文本中十分普遍，也是人工智能技术现阶段的一个主流缺点——过度依赖标注数据。语言是不断进化的，相应的模型的语料也需要不断地更新，才能适应发展的需求。
道德上，不少学者担忧AI生成文本可能会对社会传播生态系统造成扭曲。此前《华尔街日报》就曾分析发现了10万+份疑似AI独立生成的投稿稿件。而倘若使用AI做水军大批量在Twitter、Facebook等主流SNS上进行伪装交流，甚至能对许多社会热点事件做舆论导向，影响人类的伦理取向和价值判断。由此就不难理解学术界对AI生成文本的担心，毕竟技术的滥用、抄袭是对科研圈的极大不尊重。
结语
在这场争议下，ICML最终表示，明年将重新评估是否继续禁止AI生成文本的使用。未来，随着各种类型的AI合成文本、视频、照片和音频的普及率越来越高，针对人工智能道德伦理问题的争论也将将持续不断……
关于BFT白芙堂机器人
BFT（白芙堂）机器人是智能机器人一站式服务平台，能为客户提供机器人选型、培训、解决方案、在线采购、本地化定制等高性价比的一站式服务。平台产品涵盖协作机器人、工业机器人、移动机器人、SCARA机器人、服务机器人、机器人夹爪、三维机器视觉设备、3D工业相机等十余种品类，实现机器人产业链产品全覆盖，并广泛应用于工业制造、实验室自动化、智慧零售、教育科研等行业。平台已与国内外知名机器人企业达成战略合作，并拥有专业的工程师团队，能为客户提供算法及系统定制、职校教学、科研实验室平台搭建、机器人展厅定制等服务，支持一对一技术支持和二次开发。
