Нейросеть на 27 миллиардов параметров теперь...

Нейросеть на 27 миллиардов параметров теперь помещается в смартфоне

Проект PrismML выпустил открытую модель Bonsai 27B, которая весит всего 3.9 ГБ. Это позволяет запускать мощные алгоритмы локально на мобильных устройствах без подключения к облаку и затрат на API.

Решение открывает возможности для создания приватных офлайн-агентов, которые могут анализировать изображения, писать код и выполнять многошаговые задачи, сохраняя все данные внутри устройства.

Ссылка: https://github.com/PrismML-Eng/Bonsai-demo @AIandproducts