«Яндекс» доработает нейросеть из-за ошибки в ответах про Снусмумрика
Компания «Яндекс» доработает свою нейросеть «Нейро», которая выдавала ошибку в ответах про персонажа книг писательницы Туве Янссон Снусмумрика. Об этом пишет Агентство «Москва», ссылаясь на пресс-службу компании.
Искусственный интеллект, по сообщениям СМИ, назвал террориста Шамиля Басаева прототипом Снусмумрика.
В «Яндексе» пояснили, что «Нейро» составляет ответ, опираясь на источники из поисковой выдачи, поэтому ее сообщения всегда содержат ссылки на сайты, которые использовались для ответа.
«Иногда алгоритмы нейросети могут выбирать нерелевантный источник. Пользователи могут пожаловаться на такой ответ – мы внимательно анализируем обратную связь от пользователей для дообучения модели», – заключили в пресс-службе.
Накануне еще одна нейросеть выдала некорректный ответ. ИИ Gemini пожелала одному из пользователей смерти после очередного запроса на выполнение домашнего задания.
При формировании запроса неизвестный загрузил несколько условий. Так, ИИ должен был рассчитать демографическое население США, в которых главными в семьях являются бабушки и дедушки. Однако произошел какой-то сбой, из-за которого Gemini выдала оскорбительный ответ, назвав пользователя обузой для общества и земли.
Источник: www.m24.ru