理想与现实的努力平衡: OpenAI开启测试API试水商业化道路

2020-06-22 09:29

理想与现实的道路

OpenAI创立之初拥有满满的情怀，但要持续进行高质量的研究并长久运营下去需要平衡好理想与现实的微妙关系。为了回应舆论对于这次商业化的尝试，OpenAI在官网上从各个方面对这次的API发布进行了回应：

1．是什么原因促使OpenAI决定发布商业化产品？OpenAI的使命是确保人工智能造福人类，产品的商业化是确保实现目标的有效手段之一。安全地开发一套强大的AI系统是十分困难的，OpenAI希望API的发布可以加强合作，携手解决AI系统在真实世界中所面临的挑战，同时也为未来的研究提供了更多方向性的指导，更好地保证AI系统安全地服务全人类。

2．为何选择发布API而不是完整的开源模型？

主要有三个原因。首先，商业化可以覆盖AI研究、安全性和政策倡导的成本开支。其次，API后面的模型往往十分庞大，需要耗费大量的人力物力进行训练开发和部署，个人或者中小企业无法负担如此庞大的研发与运营成本。所以API的发布为中小企业和开发者提供了接入强大AI系统的能力。此外，API方式可以对技术的滥用进行更快的应对。一方面有限制的逐步开放API可以在一定程度上控制对于技术的滥用，也可以有效管控；另一方面也不像模型会面临未知的下游应用开发风险，如果开源的模型被恶意使用将很难有效阻止。

3．针对有可能的API滥用，OpenAI将要如何解决这一问题？一方面将阻断有害身心健康的API调用，包含但不限于骚扰、欺诈、垃圾邮件、激进言论和病毒营销等，并在运营中进一步优化和细化对于API的管理。同时也将引导研究人员加强对于模型潜在滥用的研究，通过学术服务合作与第三方研究机构紧密合作。目前通过审核来开放的beta测试API也将进一步减小API被滥用的风险，并帮助OpenAI更深入地理解API的内涵和局限性。

4．如何缓和API后台模型所包含的有害的偏见和负面影响？

对于减少像有害偏见这样负面影响，是目前对于整个工业界都是十分重要但困难的问题。事实上API后台所支撑的GPT－3模型在某些情况下也会显示出偏见，所以为了解决这一问题，我们将在以下三个方面进行努力：

一方面给出使用指南，引导用户学习并减小这种偏见的影响；另一方面与用户紧密合作来理解具体业务场景中的问题，并开发工具来标记和干预有害偏见的表现；最后引导更多研究人员对底层的机理和理论进行研究，更广泛深入地理解模型的表达和公平性的影响，协助用户解决问题。在这一过程中对API的优劣进行更为深入地理解，并不断改进工具和工作流程来最大程度地减小负面影响。

最后，让我们再来康康基于API的有趣应用吧：

智能客服

▼