OpenAI重组ChatGPT团队,聚焦AI模型行为优化
AI导读:
OpenAI正在重组ChatGPT团队,加入模型行为小组,以改进AI模型。该小组决定OpenAI人工智能模型与人互动的方式,并致力于解决模型回应中的政治偏见。近日,OpenAI还因一起男孩自杀事件被告,同时预计通过ChatGPT实现近100亿美元的收入。
OpenAI正在重组ChatGPT团队,加入模型行为小组,以在模型的初始预训练之后改进公司的AI模型,这一举措彰显了人工智能技术优化的重要性。
这支模型行为小组由约14名研究人员组成,是一支规模虽小但颇具影响力的研究团队,决定着OpenAI人工智能模型与人互动的方式。该团队也参与了自GPT-4以来的所有OpenAI模型的开发,包括GPT-4o和GPT-5。
OpenAI发言人已证实了这一调整,目前模型行为团队已开始向OpenAI的后期训练主管Max Schwarzer汇报工作。
模型行为团队的创始负责人Joanne Jang还表示,将在公司启动一个新项目,名为OAI Labs,将负责发明和设计人与人工智能协作的新界面原型。
模型个性成关键
模型行为团队是OpenAI的核心研究团队之一,负责塑造公司模型的个性,并减少谄媚行为,如盲目认同并强化用户的信念。该团队还致力于解决模型回应中的政治偏见,并帮助OpenAI明确其在人工智能安全性上的立场。
OpenAI首席研究官Mark Chen在一份备忘录中强调,模型行为团队应更加贴近核心模型的开发。这也意味着OpenAI日益将人工智能的“个性”视为技术发展的关键因素。
就在不久前,OpenAI在最新发布的GPT-5模型上遭遇了不小的挫折。一些用户批评称GPT-5的性格谄媚或者冷淡,不及此前模型人性化。这也导致OpenAI不得不恢复部分旧模型的访问权限,如GPT-4o。
除此之外,OpenAI近日还因为一起16岁男孩自杀事件被告,因为男孩家长指控ChatGPT涉嫌为男孩自杀提供建议。这一事件也引发了关于人工智能责任与伦理的广泛讨论。
将模型行为团队纳入后训练团队无疑进一步肯定了前者的价值,也凸显出OpenAI希望通过继续升级ChatGPT以争取消费者的迫切。据消息,OpenAI今年预计通过ChatGPT实现近100亿美元的收入,展现了其在人工智能领域的强大实力。
(文章来源:财联社)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

