Опасность искусственного интеллекта: выявлена связь между использованием ChatGPT и глупостью

Использование ИИ подрывает навыки критического мышления

Используете ChatGPT? Этот инструмент, предупреждают специалисты, может сделать вас глупым. Сканирование мозга показывает, как использование искусственного интеллекта подрывает навыки критического мышления.

тестовый баннер под заглавное изображение

Этим инструментом ИИ ежедневно пользуются миллионы студентов по всему миру, пишет Daily Mail. Но если вы регулярно обращаетесь к ChatGPT, новое исследование может вызвать тревогу. Ученые из медиа-лаборатории Массачусетского технологического института предупредили, что использование искусственного интеллекта может повлиять на способность учиться, мыслить и запоминать. В ходе своего исследования команда измеряла электрическую активность мозга 54 студентов на протяжении нескольких сессий по написанию эссе.

Одна группа использовала ChatGPT, другая — Google, а у последней вообще не было никакой внешней помощи. Результаты показали, что студенты, которые использовали большие языковые модели (LLM), такие как ChatGPT, для написания эссе, показали худшую память, сниженную мозговую активность и более слабую вовлеченность, чем те, кто использовал другие методы.

«Поскольку образовательное воздействие использования LLM только начинает ощущаться среди населения в целом, в этом исследовании мы демонстрируем насущную проблему вероятного снижения навыков обучения, основанную на результатах нашего исследования», — пояснили исследователи.

«Использование LLM, – говорят авторы исследования, – оказало ощутимое влияние на участников, и, хотя преимущества были изначально очевидны, как мы продемонстрировали в течение 4 месяцев, участники группы LLM показали худшие результаты, чем их коллеги из группы, в которой использовался только мозг, на всех уровнях: нейронном, лингвистическом, оценочном».

В своем исследовании команда задалась целью понять «когнитивные издержки» таких университетов, как ChatGPT.

«Благодаря сегодняшнему широкому внедрению продуктов LLM, таких как ChatGPT от OpenAI, люди и предприятия привлекают и используют LLM на ежедневной основе, — объясняют авторы исследования, опубликованного на онлайн-ресурсе arXiv. – Как и любой другой инструмент, он имеет свой набор преимуществ и ограничений. Это исследование посвящено выяснению когнитивных издержек использования LLM в образовательном контексте при написании эссе».

Участников разделили на три группы — ChatGPT, Google и Brain-only (Только мозговая деятельность) — и попросили написать эссе, надев электроэнцефалографическое устройство (ЭЭГ) для регистрации активности их мозга. Так вот, результаты показали, что использование искусственного интеллекта оказало «ощутимое влияние», при этом у этих участников наблюдалось «вероятное снижение навыков обучения».

Несмотря на то, что «преимущества были изначально очевидны», в течение четырех месяцев эта группа «показала худшие результаты, чем их коллеги из группы, в которой использовался только мозг, на всех уровнях: нейронном, лингвистическом, оценочном».

Между тем, пользователи Google продемонстрировали «умеренную вовлеченность», а группа, которая не имела внешнего участия, продемонстрировала большую мозговую активность и оригинальные идеи в своем контенте. Если бы эти студенты попытались использовать ChatGPT, их мозговая активность все равно увеличилась бы.

Исследователи предположили, что это связано с тем, что студенты будут пытаться совместить новый инструмент с тем, что они уже знают.

В то время как группа, использовавшая ChatGPT, по-прежнему демонстрировала меньшую активность, даже когда им было поручено самим написать эссе.

Пользователи LLM смогли ответить на вопросы с «меньшим напряжением» по сравнению с группой в поисковой системе, признались пользователи. Однако это удобство было достигнуто за счет когнитивных затрат, что уменьшило склонность пользователей критически оценивать результаты работы LLM или «мнения» (вероятностные ответы, основанные на наборах обучающих данных).

«Это подчеркивает интересную эволюцию эффекта «эхо-камеры»: вместо того, чтобы исчезнуть, он адаптировался к восприятию пользователями с помощью алгоритмически обработанного контента”, – отмечают исследователи.

Источник: www.mk.ru