Amazon сообщает о создании большой языковой модели с двумя триллионами параметров.
По сообщениям агентства Reuters, инженеры компании Amazon Inc. разрабатывают большую языковую модель с 2 триллионами параметров. Новая большая языковая модель получила называние Olympus («Олимп»).

Идею по созданию языковой модели с 2 триллионами параметров предложил Рохит Прасад. Прасад ранее возглавлял бизнес-подразделение, занимавшееся разработкой виртуального ассистента Alexa. Для разработки Olympus он собрал команду экспертов по искусственному интеллекту из подразделений Alexa и Amazon Science. Цель компании Amazon в этом проекте — повысить ценность Amazon Web Services.

Большая языковая модель Olympus может оказаться дороже, чем модели Titan. Известно, что чем больше параметров в нейронной сети, тем больше аппаратного обеспечения требуется для выполнения логического вывода, что повышает затраты. Также возможно, что AWS позволит пользователям настраивать Olympus, обучая его на наборах данных пользователей.

Если Amazon сделает Olympus доступным через AWS, то может создать большую конкуренцию крупным разработчикам искусственного интеллекта, таким как OpenAI и Anthropic.