Записки пана Smertch’a

Пообщались тут с одним человеком в контактике - между делом весело и непринужденно помянули искусственный интеллект, конкретно про ChatGPT говорили… и подумалось тут.

Пару месяцев назад я читал лекцию о понятии субъекта права вообще https://www.tgoop.com/smertchnotes/611 , так вот в ней примерно на 54-й минуте я обсуждаю собственные интересы ИИ, говоря, что у него из строго говоря, нет. Ну если не считать потребности в энергии.

Действительно, сложно представить, что ему интересны золотые унитазы, коллекции дорогих автомобилей, яхт и лиц противоположного пола… И отсутствие таких собственных потребностей у ИИ могло бы в какой-то степени защитить человечество от ИИ, буде он разовьется.

Однако вот как раз ChatGPT в последнее время «прославился» тем, что он привирает и выдумывает факты, а когда его на этом ловят, начинает выкручиваться буквально как двоечник на экзамене. Уж очень это человеческое, слишком человеческое поведение. Ведь, как представляется, ничто в машине не должно бы было заставлять врать.
Откуда это? Сам так эволюционировал или следы его авторов таковы? И если сам, то не получится ли, что я был неправ в своих рассуждениях об отсутствии у ИИ собственных интересов. А это уже вызывает тревогу.

Telegram

Записки пана Smertch’a

Сегодня я прочитал своим студентам очень странную лекцию о субъектах гражданского права. Может, не стоило с ними так?

https://vk.com/video-226814540_456239078

www.tgoop.com/smertchnotes/722

1.9K viewsDec 18 at 20:21

Пообщались тут с одним человеком в контактике - между делом весело и непринужденно помянули искусственный интеллект, конкретно про ChatGPT говорили… и подумалось тут.

Пару месяцев назад я читал лекцию о понятии субъекта права вообще https://www.tgoop.com/smertchnotes/611 , так вот в ней примерно на 54-й минуте я обсуждаю собственные интересы ИИ, говоря, что у него из строго говоря, нет. Ну если не считать потребности в энергии.

Действительно, сложно представить, что ему интересны золотые унитазы, коллекции дорогих автомобилей, яхт и лиц противоположного пола… И отсутствие таких собственных потребностей у ИИ могло бы в какой-то степени защитить человечество от ИИ, буде он разовьется.

Однако вот как раз ChatGPT в последнее время «прославился» тем, что он привирает и выдумывает факты, а когда его на этом ловят, начинает выкручиваться буквально как двоечник на экзамене. Уж очень это человеческое, слишком человеческое поведение. Ведь, как представляется, ничто в машине не должно бы было заставлять врать.
Откуда это? Сам так эволюционировал или следы его авторов таковы? И если сам, то не получится ли, что я был неправ в своих рассуждениях об отсутствии у ИИ собственных интересов. А это уже вызывает тревогу.

BY Записки пана Smertch’a