亚马逊将投资数百万美元训练大型语言模型Olympus

11月8日消息，据媒体报道，两位知情人士透露，亚马逊将投资数百万美元训练大型语言模型（LLM），希望它能与OpenAI和Alphabet的大模型相媲美。亚马逊人工智能模型的内部代号为“Olympus”，该模型拥有2万亿个参数，而OpenAI的GPT-4模型据传只有1万亿个参数。亚马逊拒绝对此消息发表评论。

图截自INSIDER

据报道，该团队由亚马逊语音助手Alexa的前负责人Rohit Prasad领导，他现在直接向首席执行官安迪·贾西（Andy Jassy）汇报工作。同时，作为亚马逊通用人工智能（AGI）的首席科学家，Prasad请来了Alexa人工智能的研究人员和亚马逊科学团队的研究人员，共同着手开发“Olympus”模型，用专门的资源将整个公司的AI工作整合在一起。

截至目前，亚马逊已经训练出了泰坦（Titan）等规模较小的模型，并与Anthropic和AI21 Labs等初创公司达成了合作，向亚马逊网络服务（AWS）用户提供这些模型。不过，缺乏自有的模型对亚马逊来说始终是个问题。

知情人士称，亚马逊认为，拥有自主开发的人工智能模型可以使其在AWS上的产品更具吸引力，因为企业客户总是希望访问性能最好的模型。目前亚马逊还没有制定发布新模型的具体时间表。

图截自INSIDER

早在今年4月的财报电话会议上，亚马逊高管就已经表示，该公司将增加对大型语言模型和生成式人工智能的投资。

4月13日，亚马逊宣布推出Amazon Bedrock服务和Titan大语言模型。通过Bedrock服务，亚马逊向开发者提供大语言模型Titan。其中，一种Titan模型可以为博客帖子、电子邮件或其它文档生成文本，另一种是嵌入式大语言模型，可以将文本输入进行转换，适合搜索等用途。

在同一天发布的2022年度股东信中，亚马逊CEO安迪·贾西表示，亚马逊开发自己的大型语言模型已经有一段时间了，相信它将改善几乎每一个客户的体验。大型语言模型（LLM）和生成式AI是亚马逊正在大力投资的领域，在未来几十年里，这将是亚马逊在每一个领域都实现创新的核心。

图截自亚马逊官网