Большую языковую модель с открытым кодом разрабатывают на базе Llama-2. Старт обучения запланирован на начало 2024. Основная задача проекта — создать нейросеть нового поколения, способную имитировать человеческую речь.
Марк Цукерберг собирается бесплатно предоставлять технологию компаниям, чтобы они создавали собственные инструменты на его основе. Исходный код нейросети будет также в открытом доступе.
Для обучения Meta* построит собственные центры обработки данных, и уже известно, что они закупили чипы H100 от Nvidia для этой цели.
*Компания Meta признана в России экстремистской организацией.