tgoop.com/DTfromhell/1085
Last Update:
Впервые столкнулся с ситуацией изменённого сознания у нейросети - так называемой "галлюцинацией".
В одном из диалогов AI мне сообщила о некоем деле одного российского учёного, которого власти незаконно преследовали в 2019 году. Я попросил рассказать мне эту историю, так как подобные громкие дела я вообще-то знаю и помню, и о чём идет речь, не представлял.
AI накатала мне красивую и подробную историю на несколько страниц, с указанием фамилии, имени и всех регалий учёного, его должности, названия института, а также все подробности уголовного дела по факту мошенничества, плюс реакцию российского и мирового научного сообществ. Я втупил, так как фамилию учёного слышал впервые.
Окей, так сказать, Гугл. Лезу в поисковики... и не нахожу ни одного упоминания этой истории, да и этого человека, вообще нигде. Включая иноязычные интернеты типа Yahoo (ну мало ли, вдруг в российских всё вычистили клятые гебисты). Включая художественную литературу - вдруг AI оттуда взяла сюжет.
Причём упомянутый институт существует, существует такой отдел в нём, но нигде такие имя и фамилия в связи с ними не упоминаются.
Ладно, иду опять в AI, интересуюсь источниками её информации. Так сказать, предоставьте пруфы.
И тут AI начинает мяться, что-то там мычать и наконец выдаёт мне, что достоверность этой информации она подтвердить пруфами не может. Дословно: "Есть сайт Следственного комитета, там эта информация может быть". Может быть, Карл!!!
Опаньки. То есть она эту историю банально выдумала.
Да, речь про Qwen 2.5. Я её немного опасаюсь после этого. Мягко говоря.
#ai #ии #странности
BY DT von der Hölle
Share with your friend now:
tgoop.com/DTfromhell/1085