Bartolius law office

Защитить человечество от ИИ

Глава гражданской юстиции Англии предлагает ввести новое фундаментальное право человека для защиты от ИИ. Идея в том, что некоторые решения непременно должны принимать люди.

Сэр Джеффри Вос, занимающий должность «Магистра свитков» – то есть наиболее высокопоставленный судья в гражданском правосудии Англии и Уэльса, выступая с лекцией в Оксфорде, предложил ввести новое фундаментальное право.

Это право должно защитить человечество от возможных бедствий, связанных с искусственным интеллектом (ИИ). По словам судьи, существующее регулирование – как британское, так и международное – «вероятно, недостаточно для того, чтобы предотвратить ненадлежащее использование ИИ» для принятия решений, изменяющих человеческую жизнь. По мысли судьи, следует признать в качестве фундаментального права человека, что «решения, требующие эмпатии или эмоционального понимания», должны принимать люди, а не машины.

Сэр Джеффри согласился, что конкретное определение таким решениям дать затруднительно. Однако без подобных мер «ИИ со временем будет принимать решения, или советовать принять решения, даже по самым чувствительным человеческим вопросам, влияющим на жизни людей».

Комментарий Сергея Будылина, советника Адвокатского бюро «Бартолиус», к.ф.-м.н. LL.M:

Кажется очевидным, что для осмысленного принятия некоторых решений необходимо понимать, что чувствуют люди в результате исполнения таких решений, и учитывать эти чувства при принятии таких решений. В связи с этим возникает два вопроса.

Во-первых, действительно ли ИИ принципиально неспособен понимать человеческие чувства и принимать их во внимание? Положим, сам он таких чувств не испытывает, но, возможно, на каком-то этапе развития он сможет их понять хотя бы интеллектуально? А может быть, и само чувство эмпатии можно запрограммировать? Учитывая фантастические темпы развития ИИ, эта цель уже не кажется абсолютно недостижимой.

Во-вторых, решения чиновников и судей в некоторых юридсикциях не дают оснований предполагать, что они способны испытывать эмпатию и понимать человеческие чувства, несмотря на своё биологическое происхождение. Не является ли более насущной для человечества задачей защита от бездушных людей, чем защита от бездушных машин?

По материалам статьи Law Gazette

#Bart_МеждународныеНовости
#Bart_МеждународноеПраво

www.tgoop.com/bartoliuslawoffice/825

893 viewsedited  Dec 2 at 14:02

Защитить человечество от ИИ

Глава гражданской юстиции Англии предлагает ввести новое фундаментальное право человека для защиты от ИИ. Идея в том, что некоторые решения непременно должны принимать люди.

Сэр Джеффри Вос, занимающий должность «Магистра свитков» – то есть наиболее высокопоставленный судья в гражданском правосудии Англии и Уэльса, выступая с лекцией в Оксфорде, предложил ввести новое фундаментальное право.

Это право должно защитить человечество от возможных бедствий, связанных с искусственным интеллектом (ИИ). По словам судьи, существующее регулирование – как британское, так и международное – «вероятно, недостаточно для того, чтобы предотвратить ненадлежащее использование ИИ» для принятия решений, изменяющих человеческую жизнь. По мысли судьи, следует признать в качестве фундаментального права человека, что «решения, требующие эмпатии или эмоционального понимания», должны принимать люди, а не машины.

Сэр Джеффри согласился, что конкретное определение таким решениям дать затруднительно. Однако без подобных мер «ИИ со временем будет принимать решения, или советовать принять решения, даже по самым чувствительным человеческим вопросам, влияющим на жизни людей».

Комментарий Сергея Будылина, советника Адвокатского бюро «Бартолиус», к.ф.-м.н. LL.M:

Кажется очевидным, что для осмысленного принятия некоторых решений необходимо понимать, что чувствуют люди в результате исполнения таких решений, и учитывать эти чувства при принятии таких решений. В связи с этим возникает два вопроса.

Во-первых, действительно ли ИИ принципиально неспособен понимать человеческие чувства и принимать их во внимание? Положим, сам он таких чувств не испытывает, но, возможно, на каком-то этапе развития он сможет их понять хотя бы интеллектуально? А может быть, и само чувство эмпатии можно запрограммировать? Учитывая фантастические темпы развития ИИ, эта цель уже не кажется абсолютно недостижимой.

Во-вторых, решения чиновников и судей в некоторых юридсикциях не дают оснований предполагать, что они способны испытывать эмпатию и понимать человеческие чувства, несмотря на своё биологическое происхождение. Не является ли более насущной для человечества задачей защита от бездушных людей, чем защита от бездушных машин?

По материалам статьи Law Gazette

#Bart_МеждународныеНовости
#Bart_МеждународноеПраво

BY Bartolius law office