Будьте осторожны с использованием офтальмологических ссылок и аннотаций, сгенерированных ИИ
Клиницисты должны быть внимательны к тому, что, хотя искусственный интеллект (ИИ) способен генерировать идеи и ссылки, необходимо тщательно проверять и подтверждать любой медицинский научный контент, который создает ИИ.
Исследователи из Института глазных болезней Коул, Фонд Кливлендской клиники изучали 2 версии чат-бота на основе ИИ для генерации научных аннотаций и 10 ссылок для клинических вопросов по 7 офтальмологическим подспециальностям. Была рассчитана и сравнена так называемая степень галлюцинации для ссылок, сгенерированных более ранней и обновленной версиями чат-бота, но которые не могли быть подтверждены. (Галлюцинация - это термин, используемый для явления, когда алгоритмы искусственного интеллекта и нейронные сети глубокого обучения производят результаты, которые не являются реальными, не соответствуют никаким данным, на которых обучался алгоритм, или другим узнаваемым шаблонам. Ссылки, которые не являются реальными, не соответствуют никаким данным). Отмечается, что в некоторых случаях чат-бот выдавал ссылки, которые не являются реальными. Кроме того, чат-бот не мог различать нюансы в научной литературе (например, пероральное или внутривенное введение стероидов при оптическом неврите). Текущие детекторы ИИ плохо справляются с обнаружением текста, сгенерированного ИИ, особенно с новой версией чат-ботов на основе ИИ. Научное сообщество в целом должно быть осторожно в отношении последствий использования генеративного ИИ для научных целей.
