开源还是闭源？人工智能未来之路引发讨论

2024-04-07 08:59:54 来源：京报网

观看：283

在人工智能技术加速发展、应用场景不断拓宽的时代，人工智能是否应该开放源代码也备受关注和讨论。在4月3日亚马逊云科技巴黎峰会上，一家名为抱抱脸的人工智能公司再次呼吁，人工智能应该开源。

抱抱脸公司是一家人工智能公司，成立于2016年，由三名法国人在美国创办。他们推动人工智能模型“开源”开始于2018年底。

现在，他们已经构建了一个大型人工智能开源社区，并吸引了大量开发者。据公司创始人介绍，抱抱脸社区目前已共有超过1100万用户，有50万人工智能模型发布在了社区之中。

在他们看来，人工智能开源可以增加数据模型透明度，也能更好推动合作与研发。

抱抱脸公司创始人之一托马斯·沃尔夫：抱抱脸非常支持开源，比如共享开放的模型，某些美国公司的人工智能选择闭源，将源代码隐藏在用户界面之后，但像米斯特拉尔人工智能公司的法国公司创建了很好的开源模型，它们也成了抱抱脸社区的一员。

抱抱脸社区被曝存在约百个恶意模型

不过，抱抱脸公司的开源社区也产生了安全隐患。据美国科技媒体“技术之道”网站3月初报道，一个安全团队在抱抱脸社区中发现了100个左右的恶意人工智能模型，其中一些可以在用户的机器上执行代码，为攻击者提供了一个持久的后门，构成了数据泄露和间谍攻击的重大风险。

报道说，尽管抱抱脸社区采取了包括恶意代码识别在内的安全措施，并对模型的功能进行了检查，但仍然没能阻止存在安全隐患的事件发生。

开源还是闭源人工智能未来之路引发讨论

就在上个月，美国知名企业家埃隆·马斯克旗下的人工智能初创公司xAI的大模型Grok正式宣布开源。马斯克曾讽刺说，开放人工智能OpenAI应该改名为封闭人工智能ClosedAI。这一举动也引发了有关人工智能应该开源还是闭源的讨论。

在Grok开源之后，马斯克在社交媒体上讽刺OpenAI称，“告诉我们OpenAI到底Open（开源）在哪里了”。

目前，“开源”模式获得不少知名公司和机构的支持，例如元宇宙旗下的利亚马（LLaMA）、斯坦福大学旗下阿尔帕卡（Alpaca）等都已经公开了“算法”。

在很多专家看来，开源技术可以加速人工智能创新。在利亚马开源的说明中，他们还认为，开源可以让“开发者和研发者对人工智能进行压力测试，作为一个社区，快速识别和解决问题。”

元宇宙公司人工智能科学家扬·莱坎：有人反对开源，是因为他们认为这样更安全，我们应该把人工智能锁起来，因为放在每个人手里，太危险了。实际上，这将会导致人工智能不好的未来。

然而，人工智能开源的风险也确实不可忽视。一些专家警告说，开源人工智能模型可能被不法分子利用，甚至被恐怖分子用来制造化学武器。

澳大利亚阳光海岸大学讲师达拉纳数字联合创始人卡伦·萨瑟兰：业内对此的反应很复杂，新的技术总是一把双刃剑，有一些开发者赞赏开源的行为，他们认为这更加透明，其他开发者能以此开发自己的人工智能工具，但是这样做也有风险，开源人工智能可能被人利用开发可以造成恶劣影响的工具，比如制造并散布错误信息、虚假信息等，这将带来很大坏处。