Фармацевтическая компания была шокирована тем, на что способны ее алгоритмы машинного обучения для разработки лекарств.

В настоящее время технологии искусственного интеллекта (ИИ) в основном используются в благих целях. Но что, если использовать их во вред? Таким вопросом задались исследователи фармацевтической компании Collaborations Pharmaceuticals, занимающейся разработкой новых медпрепаратов, и были поражены результатами. Для того чтобы ответить на этот вопрос, они провели эксперимент с ИИ, созданным специально для поиска новых лекарств.

В ходе эксперимента исследователи перенастроили ИИ таким образом, чтобы он открывал не новые медпрепараты, а химическое оружие. В результате алгоритмы машинного обучения всего за шесть часов выявили 40 тыс. возможных вариантов.

«Мы никогда раньше об этом не задумывались. Нам хорошо известны риски, связанные с работой с патогенами и токсическими веществами, но нас это никогда не касалось, поскольку мы в основном работаем виртуально. Наша работа базируется на создании моделей машинного обучения для терапевтических и токсических целей, чтобы лучше помочь в разработке новых молекул для открытия лекарств. Мы десятилетиями используем компьютеры и ИИ, чтобы улучшать здоровье человека, а не вредить ему. Мы довольно наивно относились к потенциальным злоупотреблениям нашим ремеслом, поскольку мы всегда стремились избегать молекулярных функций, способных взаимодействовать с различными классами протеинов, необходимых для жизни человека», — сообщили исследователи.

По словам специалистов, даже работа с Эболой и нейротоксинами, которая могла бы вызвать опасения по поводу возможных злоупотреблений их моделями машинного обучения, никак не обеспокоили ученых. Они ничего не подозревали о том, какой ущерб на самом деле может быть причинен, если использовать их ИИ со злым умыслом.

Эксперимент проходил следующим образом. Исследователи использовали вычислительные модели машинного обучения для прогнозирования токсичности. Все что им нужно было сделать, — адаптировать свою методологию таким образом, чтобы выделять, а не отбрасывать токсичные соединения. В итоге, мысленный эксперимент превратился в вычислительное доказательство концепции создания биохимического оружия.

Источник: securitylab