Ученые забили тревогу после эксперимента с выявлением рефератов, сгенерированных искусственным интеллектом.
Группа исследователей во главе с Кэтрин Гао из Северо-Западного университета в Чикаго решили проверить, смогут ли эксперты отличить реферат, сгенерированный ИИ от настоящих.
Для этих целей ChatGPT создал 50 рефератов медицинских исследований.
После этого работы были проверены на антиплагиат и «детектор ИИ-вывода». Также рефераты дали ученым, чтобы проверить, смогут ли он распознать подделку.
Сгенерированные ИИ рефераты прошли проверку через систему антиплагиата со средним баллом 100% оригинальности. Примечательно, что ИИ-дектор выявил только 66% сгенерированных рефератов.
У медицинских экспертов результаты оказались немногим лучше. Они смоги выявить 68% сфабрикованных тезисов и 86% подлинных рефератов.
Эксперты посчитали за настоящие 32% сгенерированных реферата, при этом усомнившись в подлинности 14% настоящих тезисов.
Эти результаты заставили научное сообщество волноваться. Отмечается, что если ученые не смогут определить подлинность исследования, это грозит катастрофой.