На этой неделе Google открыла доступ к своему чат-боту Bard на базе ИИ (bard.google.com). Пока бот доступен только для некоторых пользователей из США и Великобритании, а остальные могут присоединиться к списку ожидания. В компании подчеркивают, что пока Bard – это лишь эксперимент, и он может ошибаться и «галлюцинировать». Например, чат-бот уже заявил, что обучался на данных из поиска Google, Gmail и других продуктов компании.

Напомню, что Bard работает на основе собственной языковой модели Google LaMDA (Language Model for Dialogue Applications). В феврале 2023 года, во время первой публичной демонстрации чат-бот компании путался в фактах и заявил, что «Джеймс Уэбб» сделал самые первые снимки экзопланет за пределами Солнечной системы. Тогда как на самом деле первое изображение экзопланеты датировано еще 2004 годом. В итоге акции корпорации Alphabet обвалились из-за этой ошибки более чем на 8%.

Теперь, когда Bard уже доступен для избранных пользователей (расширять охват планируется медленно, и точная дата полноценного запуска пока не называется), в компании аккуратно описывают чат-бота как «ранний эксперимент, который призван помочь людям повысить свою производительность, подстегнуть развитие идей и разжечь их любопытство».

В отличие от чат-бота, встроенного в Microsoft Bing, Bard не дает ссылок на сетевые источники в своих ответах, предлагая пользователю «погуглить», всякий раз, когда LLM дает ответ.

Как и любой генеративный ИИ, Bard может ошибаться и «галлюцинировать», что на ярком примере уже подтвердила специалистка Microsoft Research Кейт Кроуфорд (Kate Crawford). Когда Кроуфорд спросила Bard, на каких наборах данных он обучался, бот ответил, что его датасеты были взяты из разных источников, включая открытые (Wikipedia, GitHub, Stack Overflow), а также из продуктов Google, включая поиск и Gmail.

У себя в Twitter Кроуфорд пишет, что она очень надеется, что это ошибка, а противном случае «Google переходит серьезные юридические границы».

Представители Google поспешили ответить, что Bard представляет собой лишь ранний эксперимент и, конечно, пока он может ошибаться. В компании подчеркнули, что Bard не обучался на данных, полученных из Gmail.

Однако когда Кроуфорд спросила, могут ли в компании подтвердить, что это была лишь «галлюцинация» чат-бота, и никакие данные Gmail не были включены в его обучающий процесс, ей никто не ответил. Зато переписка специалистов Google и Microsoft, похоже, повеселила Илона Маска, который прокомментировал этот тред в Twitter емким сообщением: «lol».

Источник: xakep