категории | RSS

Российские учёные узнали, как языковые ИИ смогли развиться так быстро

Исследователи из Epoch, MIT FutureTech и Северо-Восточного университета узнали, как языковые модели смогли так сильно развиться за 10 лет своего существования

В прошлом, лучшие языковые модели были маленькими, и им было трудно составить связные предложения. Но сейчас ситуация сильно изменилась: появились огромные языковые модели, такие как GPT-4, которые превосходят многих американских студентов по тесту SAT. Как произошёл такой стремительный прогресс?

В новом исследовании учёные из Epoch, MIT FutureTech и Северо-Восточного университета попытались разобраться в этом вопросе. Они выделили два ключевых фактора, которые способствовали прогрессу в языковых моделях: увеличение объёма вычислений, используемых при обучении, и алгоритмические улучшения.

Результаты исследования показывают, что за счёт улучшений в алгоритмах объем вычислений, необходимых для обучения языковых моделей, сократился примерно в два раза каждые восемь месяцев. Это важное открытие помогает лучше понять процесс развития языковых моделей и предсказать их будущее развитие.



Источник новости: www.ferra.ru

DimonVideo
2024-03-18T23:13:01Z

Здесь находятся
всего 0. За сутки здесь было 0 человек
Яндекс.Метрика