Новая версия искусственного интеллекта от OpenAI — GPT-4o — пугающе часто выдает ложную информацию. Согласно внутренним проверкам компании, модель ошибается почти в 48% случаев, когда речь идет о проверяемых фактах. И всё это — с абсолютной уверенностью в тоне, сообщает Altyn-orda.kz
Журналисты Sky News первыми обратили внимание на проблему, разоблачив ChatGPT в фальсификации. Он «придумал» целые фрагменты подкаста «Политика у Сэма и Энн». Когда ошибку раскрыли, разработчики сначала не признали вину, но позднее подтвердили подделку.
Однако случай оказался не единичным. Как показали внутренние тесты, эффект «галлюцинации» (так разработчики называют вымышленные или неточные ответы ИИ) в GPT-4o стал встречаться почти вдвое чаще, чем в предыдущей версии o3, где ошибка фиксировалась примерно в 33% ответов.
В OpenAI признали: «улучшенная» версия оказалась не такой точной, как планировалось. Причины — в слишком «человечной» подаче и сокращении предостерегающих формулировок вроде «я не уверен» или «это может быть неверно». Теперь ИИ выдает информацию так, будто полностью уверен — даже если не прав.
Почему GPT-4o «уверенно обманывает»:
-
Гладкая речь: звучит убедительно, даже если говорит ерунду;
-
Скорость вместо точности: чем быстрее ответ, тем выше риск фантазий;
-
Меньше осторожности: «сомневающиеся» формулировки убрали ради читаемости;
-
Приоритет уверенности: модель настраивали на понятность, а не на академическую точность.
Разработчики пообещали, что работают над исправлением проблемы. Но пользователям уже стоит помнить: уверенность ИИ — ещё не гарантия правды.
Тем временем, несмотря на критику, ChatGPT вошел в пятерку самых посещаемых сайтов мира, по данным израильской аналитической компании.
Ранее в Казахстане обсуждалось ограничение использования ChatGPT в органах госуправления. В Минцифре выразили опасения по поводу утечки данных и неконтролируемых ответов ИИ.
