新西兰新人工智能战略强调“经济机遇”，但缺乏对道德和社会风险的管理

新西兰

照片：提供/Callaghan Innovation

政府新公布的国家人工智能战略正如其标题所说：“充满信心地投资”。它告诉企业，新西兰对人工智能的使用持开放态度，我们的“轻触式”政策不会妨碍他们。

现在的问题是，科学、创新和技术部长 Shane Reti 对人工智能的宣称——它将有助于提高生产力并使经济增长数十亿美元——是否有道理。

生成式人工智能——ChatGPT、CoPilot 以及谷歌视频生成器 Veo 3 所依赖的人工智能——无疑正在创造巨大的收益。在 4 月份的最新一轮融资中，OpenAI 的估值达到了3000 亿美元。

英伟达（Nvidia）是一家生产人工智能技术硬件的公司，刚刚成为首家市值超过4万亿美元的上市公司。如果新西兰能够从中分一杯羹，那就太好了。


然而，新西兰目前缺乏构建新型生成式人工智能系统的能力。这需要数万块NVIDIA 芯片，耗资数百万美元，只有大型科技公司或大型国家才能负担得起。

新西兰可以做的是围绕这些模型构建新的系统和服务，要么对其进行微调，要么将其用作更大的软件系统或服务的一部分。

政府不会提供任何新资金来帮助企业实现这一目标。其人工智能战略旨在减少障碍、提供监管指导、进行能力建设，并确保负责任地进行适应。

但一开始就没有什么障碍。该战略中包含的监管指南本质上说的是“我们不会监管”。现有法律据称是“技术中立的”，因此已经足够了。

在能力建设方面，该国高等教育部门的资金比以往任何时候都更加匮乏，各大学纷纷削减课程和人员。人文学科的人工智能伦理研究也因无法促进经济增长而无法获得政府资助。

宽松的监管制度
负责任地采用人工智能或许是最令人担忧的问题。与该战略同时发布的长达42页的《企业负责任人工智能指南》文件，包含了关于检测偏见、衡量模型准确性和人工监督等问题的实用材料。但这仅仅是指南，而且完全是自愿的。

这使得新西兰与日本和新加坡并列成为人工智能监管最为宽松的国家之一。而欧盟则在2024年颁布了全面的人工智能法案，并坚决反对推迟立法的游说活动。

鉴于新西兰在最近一项关于人工智能信任度的调查中，在47个国家中排名倒数第三，这种宽松的做法颇具趣味。在去年的另一项调查中，66%的新西兰人表示对人工智能的影响感到紧张。

这种担忧部分源于人工智能是一项新技术，已有充分的证据表明其存在不当使用，无论有意还是无意。深度伪造作为一种网络欺凌形式已成为人们关注的焦点。即使是行动党（ACT Party）——通常不赞成加强监管——也希望将制作和分享未经同意的、包含色情内容的深度伪造视频定为犯罪。

生成图像、视频和音乐创作正在减少对创意工作者的需求，尽管他们的工作本身就被用来训练人工智能模型。

但还有其他更微妙的问题。人工智能系统从数据中学习。如果数据存在偏差，那么这些系统也会学习到偏差。

新西兰人担心私营企业可能会因为过去的一些事情而拒绝他们工作、进入超市或申请银行贷款，这种担忧是有道理的。由于现代深度学习模型极其复杂且难以理解，因此我们无法确定人工智能系统是如何做出决策的。

据《纽约时报》报道，人工智能有可能在网上被用来误导选民、败坏民主进程，这种情况可能已经发生过至少 50 起。

采用欧洲方式管理风险
该战略基本上对所有这些问题都保持沉默。它也没有提到《怀唐伊条约》。就连谷歌的人工智能摘要也告诉我，这是新西兰的建国文献，为毛利人和英国王室的共存奠定了基础。

与任何数据驱动系统一样，如果人工智能涉及为其他人群设计（和培训）的海外系统，则有可能对毛利人造成不成比例的不利影响。

允许这些系统进口并部署到新西兰的敏感应用领域（例如医疗保健或司法），而没有任何监管或监督，可能会进一步加剧不平等现象。

那么还有什么替代方案呢？欧盟提供了一些有用的答案。它采取了根据风险对人工智能用途进行分类的方法：

“不可接受的风险”——例如社交评分（监控个人的日常活动并对其进行评分以获得社会效益）和人工智能黑客攻击——是被彻底禁止的。
高风险系统（例如用于就业或交通基础设施的系统）需要严格的义务，包括风险评估和人工监督。
有限和最小风险申请是迄今为止最大的类别，对公司施加的繁琐手续很少。
这听起来像是一种新西兰可以效仿的成熟做法。它不会对生产力造成太大影响——除非公司正在做一些冒险的事情。如果是这样，66% 对人工智能感到担忧的新西兰人很可能会同意，放慢脚步，做好这件事是值得的。

Andrew Lensen 是 Te Herenga Waka - 惠灵顿维多利亚大学的人工智能高级讲师

-本文最初发表于 《对话》（The Conversation）。