新加坡就生成式人工智能模型管理框架草案征求公众意见

新加坡信息通信媒体发展局（IMDA）正在就其《用于生成式人工智能的人工智能模型管理框架》草案征求公众意见。该机构邀请国际社会在公众咨询期内提交反馈意见。

该框架草案由IMDA与其子公司人工智能验证基金会（AI Verify Foundation）合作制定，共概述了解决生成式人工智能问题的九个不同维度及相应的建议。

这九个维度分别是问责制、数据、可信的开发和部署、事件报告、测试和保证、安全性、内容来源、安全和协调研发以及用于公共利益的人工智能。

在数据方面下，该框架草案中写道：“数据是模型开发的核心要素。它对模型输出的质量有重大的影响。因此，提供给模型的数据很重要，并且需要确保数据的质量，例如通过使用可信的数据源。在使用数据进行模型训练可能会引起争议的情况下，例如使用个人数据和版权材料，那么提供业务清晰度、确保公平对待并以务实的方式进行处理也同样很重要。”

新加坡知识产权从业人士乔治．黄（George Hwang）表示：“图像生成系统DALL.E进入市场已经超过3年，聊天机器人ChatGPT上市也有一年多的时间，IMDA在此时发布《生成式人工智能模型人工智能管理框架》征求国际反馈是十分及时的。它引起了利益相关者的讨论，不仅包括人工智能技术的生产者，还有其用户。由于几乎每个人都可能是大型语言模型的用户，因此这意味着每个人的参与，而不仅仅是行业和企业。”

然而，该专业人士也表达了对该框架草案的担忧。据他介绍，版权涉及到所有权、利用和回报问题。同时，该框架草案涉及人工智能的发展。

他指出：“在讨论如何管理人工智能时，我们需要决定它所涉及的层面和影响。我们需要问问我们是在监管人工智能的发展还是人工智能本身。”然后，他概括介绍了人工智能的版权问题：

人工智能开发人员在训练人工智能时使用受版权保护的材料时是否发生侵权行为；

有效性——机器创作的作品是否可以获得版权；

所有权——如果人工智能拥有作品的所有权，那么谁将拥有人工智能创作的作品并行使其权利？是人工智能的所有者还是向人工智能发出指令的人，特别是在人工智能所创作的作品并非所给出指令可预见的结果的情况下？

“该模型框架并没有直接解决这些版权问题。负责任的使用是否需要事先获得所有用于培训的版权材料的许可？”他解释道，该框架草案只是企业自愿采用的指导方针，缺乏任何执行机制。相比之下，欧盟的《人工智能法案》则采取了监管的方法，强调问责制、透明度和合乎道德的人工智能使用。不过，这些原则并没有直接解决人权问题或潜在的人工智能滥用问题。

他继续解释道：“但是，我们正在解决人工智能的发展问题，或者更确切地说，将人工智能作为一种产品。”并强调人工智能是人类使用的软件，因此是中性的。“问题是，是否存在这样一种情况，即人工智能的使用——而不是它的研发——可能导致明显的直接和即时的伤害，例如‘曼哈顿计划’或‘塔斯基吉梅毒研究’？如果有，那么问责制原则应该划出一条明确的红线，说明何时应该停止发展。”

与新加坡的国家人工智能战略保持一致，该框架草案是对《人工智能模型管理框架》2019年和2020年版本的更新，这两个版本都涵盖了传统人工智能。