tgoop.com/dzenopulse/1605
Last Update:
В прошлом году (как звучит, да?!) у нас в команде разгорелся спор на тему галлюцинаций нейросетей и их умению выдавать недостоверную информацию. Те ещё врушки, одним словом.
В качестве контраргумента мне привели нейросеть Perplexity, мол, она работает с источниками, всегда даёт ссылки и идеально подходит для фактчекинга.
Признаю, эта ИИ'шка действительно крутая штука. Она сразу стала для меня незаменимым помощником, когда нужно быстро найти ответ или собрать информацию по какому-то вопросу. Но, увы, и она умеет вводить в заблуждение, причем делает это не менее изящно, чем другие нейросети.
Почему так происходит? Вот две основные причины:
✦ Источники разного качества. Perplexity может сослаться на статью блогера или материал из желтой прессы вроде «Секретных материалов». Так себе источник. К счастью, можно ручками исключить конкретные источники из списка, что повлияет на ответ.
✦ Галлюцинации в интерпретации данных. Нейросеть иногда выдает свои домыслы за факты.
👉 Приведу пример. На днях мне понадобилось проверить, какое место жители Калининграда подразумевают под сленговым словом «Остров».
Perplexity уверенно заявила, что это остров Канта, и даже привела источник. Но, будучи человеком дотошным, я решил проверить. Оказалось, в указанной статье такого тезиса просто нет. Я попросил нейросеть уточнить этот момент, и она со второй (!) попытки признала ошибку.
Мораль проста: не верьте электромозгам на слово. Всегда проверяйте информацию. Панацеи здесь нет.
#нейросети
