Google изымает Gemma AI из AI Studio, подтверждая, что приложение предназначено только для разработчиков, на фоне опасений по поводу точности

Технологическая компания Google объявила об отзыве своей модели искусственного интеллекта Gemma после сообщений о неточных ответах на фактические вопросы, пояснив, что модель была разработана исключительно для исследовательских целей и использования разработчиками. 

Согласно заявлению компании, Gemma больше недоступна через AI Studio, хотя разработчикам она остаётся доступна через API. Решение было принято в связи с тем, что пользователи, не являющиеся разработчиками, использовали Gemma через AI Studio для запроса фактической информации, что не входило в её первоначальные функции. 

В Google объяснили, что Gemma никогда не предназначалась в качестве инструмента для взаимодействия с потребителями, и удаление было сделано с целью предотвращения дальнейших недоразумений относительно ее назначения.

В своём разъяснении Google подчеркнула, что семейство моделей Gemma было разработано как инструменты с открытым исходным кодом для поддержки сообществ разработчиков и исследователей, а не для фактической помощи или взаимодействия с потребителями. Компания отметила, что открытые модели, такие как Gemma, предназначены для стимулирования экспериментов и инноваций, позволяя пользователям исследовать производительность моделей, выявлять проблемы и предоставлять ценную обратную связь. 

Google подчеркнул, что Gemma уже внесла свой вклад в научный прогресс, приведя в пример модель Gemma C2S-Scale 27B, которая недавно сыграла роль в определении нового подхода к разработке терапии рака.

Компания признала наличие более масштабных проблем, с которыми сталкивается отрасль ИИ, таких как галлюцинации — когда модели генерируют ложную или вводящую в заблуждение информацию — и подхалимство — когда они выдают приемлемые, но неточные ответы. 

Эти проблемы особенно распространены среди небольших открытых моделей, таких как Гемма . Компания Google подтвердила свою приверженность сокращению галлюцинаций и постоянному повышению надежности и производительности своих систем искусственного интеллекта.

Google реализует многоуровневую стратегию для сдерживания галлюцинаций ИИ 

Компания использует многоуровневый подход к минимизации галлюцинаций в своих больших языковых моделях (LLM), сочетая в себе обоснование данных, тщательное обучение и разработку моделей, структурированные подсказки и контекстные правила, а также постоянный человеческий контроль и механизмы обратной связи. Несмотря на эти меры, компания признает, что галлюцинации невозможно полностью устранить.

Основное ограничение проистекает из принципа работы LLM. Вместо того, чтобы обладать пониманием истины, модели функционируют, предсказывая вероятные последовательности слов на основе закономерностей, выявленных в ходе обучения. Когда модели не хватает фундаментальных данных или она сталкивается с неполными или ненадёжными внешними данными, она может генерировать ответы, которые кажутся правдоподобными, но фактически неверны.

Кроме того, Google отмечает, что оптимизация производительности модели сопряжена с определенными компромиссами. Повышение осторожности и ограничение выходных данных могут помочь снизить вероятность возникновения галлюцинаций, но часто это происходит в ущерб гибкости, эффективности и полезности при решении определённых задач. В результате иногда сохраняются неточности, особенно в развивающихся, специализированных или недостаточно представленных областях, где охват данных ограничен.