|
英国《新科学家》周刊网站10月20日报道,逾千名数学家承诺,不为人工智能(AI)企业工作,也不在研究中使用AI模型。他们此举的背景是,AI企业利用模型攻克棘手数学难题的做法正遭到越来越强烈的抵制,其中不少难题曾困扰人类数十年。
部分AI企业发布一些颇具争议的研究成果后,人类数学家协会(AHM)应运而生。该协会目前已有超过1000名成员,其中包括教授与博士生。本月初,美国开放人工智能研究中心(OpenAI)一次性发布722篇数学研究论文,引发争议。
美国加利福尼亚大学洛杉矶分校的陶哲轩上个月表示,这类研究成果的产出方式,以及将成果直接“抛给”数学界的做法,有可能损害这一学科。尽管在很多情况下,这些成果经过形式化验证可当作可靠的正确解答,但它们的表述往往晦涩难懂、行文仓促,令数学界难以理解,也难以提炼其中的内涵与逻辑。
为此,一个独立的数学与AI顾问小组成立,旨在为AI企业提供最佳实践方面的建议。OpenAI此前曾表示会采纳该小组的意见,但其最近发布相关研究论文的做法似乎违背了该小组提出的多项建议。
人类数学家协会要求成员遵守三项承诺,不过第三项为非强制性的。协会成员因此分为两类:一类是“素食派”,选择不与AI企业合作、不为它们工作,同时不使用聊天机器人撰写论文、讲义或著作;另一类是“纯素派”,他们更进一步,在研究中完全避免使用AI。
耶鲁大学的萨姆·拉斯金是“素食派”成员,他没有签署第三项承诺,原因是这项承诺还有一点模糊之处:他偶尔会用AI处理简单任务,不知道这种情况是否属于承诺所禁止的范围。
拉斯金说,人类数学家协会成员背景多元,这些承诺的约束力度“相当小”。大家入会的动机各不相同,有人出于环境方面的顾虑,也有人担心自身的工作稳定。对他而言,加入协会是因为他认为数学本质上是人类的活动,用传统方式研究数学能给他带来乐趣。同时这也是向外界传递一个信号:他不会为AI企业效力。
拉斯金说:“我不断听说,数学界身居领导岗位、掌管各类机构的一些人,暗地里在接受Anthropic公司或OpenAI的报酬,而且未必会公开这层利益关系。我觉得这种情况有害。”
英国帝国理工学院的史蒂文·西韦克(“纯素派”成员)表示,这个数学家协会并非纯粹为了反对AI,协会还设立了多个小组,探讨在后AI时代,数学领域应当是什么样子。小组的议题包括:如何保护预印本不被新AI模型当作训练数据抓取;解决教授群体可能面临的职业危机;研究本科与研究生教学需要做出哪些调整。
西韦克说:“我们不是否定现实的人。我们不会逃避问题地说‘这一切没有发生’。我想说的是,变革正在发生,千真万确。我们需要想办法让这个学科适应新现实。”
对西韦克来说,加入人类数学家协会也是在表明他对数学的理解:数学是一门技艺,离不开艰苦钻研、深度思考与富有成就感的成果。“我个人不想关闭自己大脑的一部分,把工作直接交给机器代劳。如果我无法理解、无法确证成果,我不愿意把这类东西发表出去。”
法国索邦大学的埃尔韦·勒德雷加入协会则源于伦理方面的担忧,包括AI“对资源惊人的浪费及其带来的环境影响”。
《新科学家》周刊向OpenAI和Anthropic寻求置评,但两者均未予以回应。
|