Исследователь обучил компактный трансформер для решения задач ARC-AGI

Исследователь Митхил Вакде создал трансформер с числом параметров 75 миллионов, который набрал 44 процента на бенчмарке ARC-AGI-1. Обучение модели заняло полтора часа на одной видеокарте RTX 5090, а аренда оборудования обошлась в 67 центов. Для достижения результата модель дообучалась непосредственно во время тестирования, а код проекта был открыт под лицензией MIT.

Тексты и озвучка в Пегрегаторе создаются автоматически: нейросеть кратко пересказывает публичные материалы Telegram-каналов. Это не оригинальные публикации и не работа редакции — смысл может быть упрощён, а детали потеряны. Перед принятием решений открывайте первоисточник: ссылки на каналы есть у каждого материала.