tgoop.com/chernopsy/941
Last Update:
Очень-очень плохая идея
- развивать сознание у роботов.
Неожиданный текст от Анила Сета.
Я писал, что в его теории сознание - атрибут живого существа. Из плоти и крови - как он сам всё время говорит. Ещё одна идея, которую он продвигает: перпендикулярность интеллекта и сознания. У животных, мол, они связаны, но у очень умной машины сознание совершенно не обязано появиться. И в свете этого он вдруг неожиданно присоединяется к AI-думерам, которые предупреждают об экзистенциальных опасностях быстрого развития искусственного интеллекта.
Сам пишет: я думаю, что сильный искусственный интеллект ещё далеко, и моя теория сознание у машин не допускает, но А ВДРУГ?? И если такая вероятность есть, то это плохо и опасно. Во-первых, опасно для выживания человечества. Во-вторых, породив сознательную сущность, мы неизбежно породим новые виды страданий - о которых сами и не догадываемся.
Certainly, nobody should be actively trying to create machine consciousness
– пишет Сет (замечу у скобках, что лично для меня это всегда было самой захватывающей идеей).
Мне показался этот текст нелогичным, и я это списываю на отказ обсуждать от сложную проблему сознания - о чём я писал в обзоре на книгу Сета. Отказываясь обсуждать центральный вопрос о природе сознания, мы вынуждены опираться на аргументы в духе "ну а вдруг?".
Но есть и интересные мысли. Даже если ИИ будет просто успешно имитировать наличие сознания, чувств и личности - люди будут в это верить и по-другому взаимодействовать с ИИ: больше ему доверять и неадекватно оценивать его возможности:
If we feel a machine truly believes what it says, we might be more inclined to take its views more seriously. If we expect an AI system to behave as a conscious human would—according to its apparent goals, desires, and beliefs—we may catastrophically fail to predict what it might do.
Ну и в конце мне понравилась метафора ИИ как оракула:
Perhaps future AI systems could be more like oracles, as the AI expert Yoshua Bengio has suggested: systems that help us understand the world and answer our questions as truthfully as possible, without having goals—or selves—of their own.
BY Черномырдин нашей психологии
Share with your friend now:
tgoop.com/chernopsy/941