Инструмент определяет «искусственный» текст с точностью 100%.
Ученые из Канзасского университета разработали детектор искусственного интеллекта, который может определять сгенерированный нейросетями контент в научных статьях с точностью 100%.
Согласно отчёту , команда исследователей выбрала 64 реальных научных статей и использовала их для создания 128 статей с помощью ChatGPT, которые затем использовались для обучения детектора ИИ.
Созданный инструмент на 100% различал статьи, написанные человеком, от статей, сгенерированных ИИ, и с 92% точностью определял текст ИИ в конкретных абзацах статьи.
Главный автор исследования Хезер Дезайр сказал, что сейчас есть очень серьезные проблемы с ИИ-письмом. Одна из самых больших проблем заключается в том, что ИИ собирает текст из многих источников и не проводит никакой проверки на точность.
На рынке уже существуют подобные инструменты. Например, инструмент OpenAI, запущенный в январе, позволяет различать текст, написанный ИИ, и текст, написанный человеком. Вероятность успеха составляет около 26%, а человеческая работа ошибочно определяется как работа ИИ в 9% случаев. Создание такого инструмента началось после того, как Министерство образования Нью-Йорка заблокировало доступ к ChatGPT для учеников в государственных школах.
Источник: securitylab
