11月28日，在麻省理工学院(MIT)“生成人工智能周”(Generative AI Week)的开幕活动“生成人工智能:塑造未来”(Generative AI: Shaping the Future)研讨会上，主讲嘉宾、iRobot联合创始人罗德尼·布鲁克斯(Rodney Brooks)警告与会者不要不加批判地高估这项新兴技术的能力，它支撑着OpenAI的ChatGPT和谷歌的Bard等日益强大的工具。

布鲁克斯警告说:“炒作导致傲慢，傲慢导致自负，自负导致失败。”布鲁克斯也是麻省理工学院的名誉教授，曾任计算机科学与人工智能实验室(CSAIL)主任，也是Robust.AI的创始人。

“从来没有一项技术能超越其他一切，”他补充说。

这次研讨会吸引了来自学术界和工业界的数百名与会者来到该研究所的克雷斯基礼堂(Kresge Auditorium)，研讨会上充满了关于生成式人工智能为让世界变得更美好提供机会的希望信息，包括通过艺术和创造力，同时也夹杂着一些警示故事，说明如果这些人工智能工具不负责任地开发，可能会出现什么问题。

生成式人工智能是一个术语，用来描述机器学习模型，这些模型学习生成看起来像他们训练过的数据的新材料。这些模型展示了一些令人难以置信的能力，比如能够产生类似人类的创意写作、翻译语言、生成功能性计算机代码，或者根据文本提示制作逼真的图像。

麻省理工学院校长Sally Kornbluth在研讨会的开幕致辞中强调了教师和学生已经开展的几个项目，这些项目使用生成式人工智能对世界产生积极影响。例如，麻省理工学院(MIT)和哈佛大学(Harvard)联合发起的在线教育项目“Axim Collaborative”的工作，包括探索生成式人工智能的教育方面，以帮助服务不足的学生。

该研究所最近还宣布为27个跨学科教师研究项目提供种子基金，这些项目的重点是人工智能将如何改变人们的整个社会生活。

科恩布鲁斯表示，麻省理工学院希望通过举办“生成式人工智能周”，不仅展示这类创新，还能在与会者之间产生“协作碰撞”。

她告诉观众，如果我们要以人道的方式安全地整合生成式人工智能等快速发展的技术，并帮助人类解决问题，那么涉及学术界、政策制定者和行业的合作将至关重要。

“老实说，我想不出还有比这更符合麻省理工学院使命的挑战了。这是一项重大责任，但我完全有信心，如果我们正面面对，如果我们作为一个社区来面对，我们就能面对它。”

CSAIL主任Daniela Rus在开幕致辞中表示，虽然生成式人工智能有潜力帮助解决地球上一些最紧迫的问题，但这些强大的机器学习模型的出现模糊了科幻小说和现实之间的区别。她说，问题不再是我们能否制造出生产新内容的机器，而是我们如何利用这些工具来增强业务并确保可持续性。

“今天，我们将讨论一种未来的可能性，在这种未来中，生成式人工智能不仅是一种技术奇迹，而且是希望的源泉和一种美好的力量，”Rus说，他也是电子工程和计算机科学系的Andrew和Erna Viterbi教授。

但在深入讨论生成式人工智能的能力之前，与会者首先被要求思考他们的人性，麻省理工学院教授约书亚·贝内特(Joshua Bennett)朗诵了一首原创诗歌。

班尼特是麻省理工学院文学系教授和人文学科杰出主席，他被要求写一首关于人类意义的诗，并从他三周前出生的女儿那里获得灵感。

这首诗讲述了他小时候和父亲一起看《星际迷航》的经历，并谈到了将传统传承给下一代的重要性。

在他的主题演讲中，布鲁克斯开始解开围绕生成式人工智能的一些深刻的科学问题，并探索这项技术可以告诉我们关于我们自己的一些事情。

首先，他试图通过解释这种大型语言模型如何工作的基本原理，来消除围绕ChatGPT等生成式人工智能工具的一些谜团。例如，ChatGPT通过确定下一个单词在它已经写过的上下文中应该是什么来一次一个单词地生成文本。布鲁克斯解释说，虽然人类可能会通过思考整个短语来写故事，但ChatGPT只关注下一个单词。

ChatGPT 3.5是建立在一个机器学习模型上的，该模型有1750亿个参数，在训练期间已经接触了数十亿页的网络文本。(最新的版本ChatGPT 4甚至更大。)它学习大量文本语料库中单词之间的相关性，并利用这些知识在给出提示时提出下一个可能出现的单词。

该模型展示了一些令人难以置信的能力，比如能够以莎士比亚著名的十四行诗第18首的风格写一首关于机器人的十四行诗。在他的演讲中，布鲁克斯展示了他要求ChatGPT与他自己的十四行诗并列创作的十四行诗。

但是，尽管研究人员仍然不能完全理解这些模型是如何工作的，布鲁克斯向观众保证，生成人工智能看似不可思议的能力并不是魔法，这并不意味着这些模型可以做任何事情。

他对生成式人工智能最大的担忧并不在于有朝一日可能超越人类智能的模型。相反，他最担心的是，研究人员可能会放弃几十年来即将取得突破的优秀成果，只为了追求生成式人工智能领域的新进展;风险投资公司盲目地涌向能够产生最高利润的技术;或者整整一代工程师可能会忘记其他形式的软件和人工智能。

他说，最终，那些相信生成式人工智能可以解决世界问题的人和那些相信它只会产生新问题的人至少有一个共同点:两组人都倾向于高估这项技术。

“生成式人工智能的自负是什么?人们自负地认为，这将以某种方式导致人工通用智能的出现。就其本身而言，它不是。”

在布鲁克斯的演讲之后，麻省理工学院的一群教师讲述了他们使用生成式人工智能的工作，并参加了一场关于未来进展、重要但未被探索的研究主题以及人工智能监管和政策挑战的小组讨论。

小组成员包括麻省理工学院电子工程与计算机科学系(EECS)副教授、CSAIL成员Jacob Andreas;Antonio Torralba, EECS Delta电子学教授，CSAIL成员;麻省理工学院麦戈文大脑研究所(McGovern Institute for brain Research)研究员、大脑与认知科学副教授埃夫·费多连科(Ev Fedorenko);Armando Solar-Lezama，计算机杰出教授，CSAIL副主任。会议由William T. Freeman主持，他是EECS的Thomas和Gerd Perkins教授，也是CSAIL的成员。

小组成员讨论了围绕生成式人工智能的几个潜在的未来研究方向，包括整合感知系统的可能性，利用人类的触觉和嗅觉等感官，而不是主要关注语言和图像。研究人员还谈到了与政策制定者和公众接触的重要性，以确保负责任地生产和部署生成人工智能工具。

“如今，生成式人工智能的一大风险是数字万金油的风险。有一个很大的风险是，很多产品声称能创造奇迹，但从长远来看可能是非常有害的，”Solar-Lezama说。

上午的会议以1925年科幻小说《大都会》(Metropolis)的节选结束，由物理和戏剧艺术专业的大四学生乔伊·马(Joy Ma)朗读，随后是关于生成式人工智能未来的圆桌讨论。参加讨论的有脑与认知科学系教授、CSAIL成员Joshua Tenenbaum;迪娜·卡塔比，EECS的Thuan和Nicole Pham教授，CSAIL和麻省理工学院Jameel诊所的首席研究员;物理学教授马克斯·泰格马克;由丹妮拉·罗斯主持

讨论的一个焦点是开发超越人类能力的生成式人工智能模型的可能性，例如可以通过使用电磁信号来感知某人的情绪，以了解一个人的呼吸和心率如何变化的工具。

但泰格马克说，将这样的人工智能安全地融入现实世界的一个关键是确保我们可以信任它。他说，如果我们知道一个人工智能工具将符合我们坚持的规范，那么“我们就不必再害怕构建真正强大的系统，让它们走出去为我们做事。”

作者：Adam Zewe | MIT新闻

链接：https://news.mit.edu/2023/what-does-future-hold-generative-ai-1129

著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

声明：海森大数据刊发或者转载此文只是出于传递、分享更多信息之目的，并不意味认同其观点或证实其描述。若有来源标注错误或侵犯了您的合法权益，请作者与本网联系，我们将及时更正、删除，谢谢。电话：15264513609，邮箱：1027830374@qq.com