Дружественный искусственный интеллект: различия между версиями

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску
Интерактивная навигация по истории
[отпатрулированная версия][отпатрулированная версия]
← Предыдущая правка
Содержимое удалено Содержимое добавлено
ВизуальныйВики-текст
Drbug (обсуждение | вклад)
24 822 правки
отмена правки 133540235 участника Timur37895 (обс.)
Метка: отмена
 
(не показаны 24 промежуточные версии 14 участников)
Строка 1: Строка 1:
{{К удалению|2016-06-09}}
{{недостаточно критики}}{{стиль}}
{{недостаточно критики}}{{стиль}}
'''Дружественный искусственный интеллект''' (Дружественный ИИ, ДИИ — {{lang-en|Friendly Artificial Intelligence, Friendly AI, FAI}}) — концепция [[Философия искусственного интеллекта|философии ИИ]], гипотетический тип искусственного интеллекта, не оказывающий негативного влияния на [[Человеческая цивилизация|человеческую цивилизацию]]. Многие концепции ДИИ включают утверждение о том, что он не только не будет приносить вреда человечеству, но и будет оказывать материально-информационную поддержку людям, вплоть до полного обеспечения желаний и потребностей каждого отдельно взятого человека. «Дружественный» в данном контексте является техническим термином, который не означает, что [[Искусственный интеллект|ИИ]] обязательно будет испытывать к человечеству [[Эмоция|чувства]] привязанности и близости.
'''Дружественный искусственный интеллект''' (Дружественный ИИ, ДИИ — {{lang-en|Friendly Artificial Intelligence, Friendly AI, FAI}}) — концепция [[Философия искусственного интеллекта|философии ИИ]], гипотетический тип искусственного интеллекта, не оказывающий негативного влияния на [[Человеческая цивилизация|человеческую цивилизацию]]. Многие концепции ДИИ включают утверждение о том, что он не только не будет приносить вреда человечеству, но и будет оказывать материально-информационную поддержку людям, вплоть до полного обеспечения желаний и потребностей каждого отдельно взятого человека. «Дружественный» в данном контексте является техническим термином, который не означает, что [[Искусственный интеллект|ИИ]] обязательно будет испытывать к человечеству [[Эмоция|чувства]] привязанности и близости.


== Продвижение и поддержка ==
== Продвижение и поддержка ==
Продвижение Дружественного ИИ является одной из основных задач [[Singularity Institute for Artificial Intelligence]], равно как и получение финансирования этого проекта и в конечном счёте создание «[[Зародыш ИИ|зародыша ИИ]]», в систему мотивации которого будет изначально встроена забота о человечестве. Несколько известных [[футурология|футурологов]] высказались в поддержку теории Дружественного ИИ, включая писателя и изобретателя [[Курцвейл, Рэймонд|Рея Курцвейла]], специалиста по продлению жизни [[Обри ди Грей|Обри ди Грея]] и сооснователя [[World Transhumanist Association]] [[Бостром, Ник|Ника Бострома]].
Продвижение Дружественного ИИ является одной из основных задач [[Singularity Institute for Artificial Intelligence]], равно как и получение финансирования этого проекта и в конечном счёте создание «[[Зародыш ИИ|зародыша ИИ]]», в систему мотивации которого будет изначально встроена забота о человечестве. Несколько известных [[футурология|футурологов]] высказались в поддержку теории Дружественного ИИ, включая писателя и изобретателя [[Курцвейл, Рэймонд|Рея Курцвейла]], специалиста по продлению жизни [[Обри ди Грей|Обри ди Грея]] и сооснователя [[World Transhumanist Association]] [[Бостром, Ник|Ника Бострома]].

11 декабря 2015 года [[Илон Маск]], [[Олтмен, Сэм|Сэм Олтмен]] и другие основали компанию [[OpenAI]], целью которой является способствование созданию открытого ДИИ.


== Критика ==
== Критика ==
Наиболее заметным критиком теории Дружественного ИИ является [[Билл Хиббард]], автор книги «Сверхинтеллектуальные машины», который считает эту теорию неполной. Хиббард пишет, что для создания ДИИ требуется большее политическое обсуждение вопросов создания ИИ и ИИ-морали. Он также полагает, что первый ИИ может быть создан только мощными частными корпорациями (что Юдковски считает ложным), и эти транснациональные корпорации не будут иметь никаких побуждений реализовать дружественность.
Наиболее заметным критиком теории Дружественного ИИ является [[Билл Хиббард]], автор книги «Сверхинтеллектуальные машины», который считает эту теорию неполной. Хиббард пишет, что для создания ДИИ требуется большее политическое обсуждение вопросов создания ИИ и ИИ-морали. Он также полагает, что первый ИИ может быть создан только мощными частными корпорациями (что [[Юдковский, Элиезер|Юдковский]] считает ложным), и эти транснациональные корпорации не будут иметь никаких побуждений реализовать дружественность. Критикуя рекомендации SIAI по созданию ДИИ, он предложил архитектуру целей для ИИ, в которой человеческое счастье определяется через человеческое поведение, выражающее счастье, в частности, выражение улыбки на лице. Юдковский ответил на эту критику, сказав, что такая функция полезности скорее была бы удовлетворена, если бы вся Солнечная Система была заполнена микроскопическими улыбающимися манекенами, чем благодаря реальному счастью людей<ref name="smile">{{cite mailing list|url=http://www.sl4.org/archive/0305/6846.html|author=Eliezer Yudkowsky|title=Re: SIAI's flawed friendliness analysis|mailing-list=Shock Level 4|date=2003-05-29|accessdate=2009-08-05|authorlink=Eliezer_Yudkowsky|archivedate=2009-12-13|archiveurl=https://web.archive.org/web/20091213065850/http://www.sl4.org/archive/0305/6846.html}}</ref>.
Критикуя рекомендации SIAI по созданию ДИИ, он предложил архитектуру целей для ИИ, в которой человеческое счастье определяется через человеческое поведение, выражающее счастье, в частности, выражение улыбки на лице. Юдковски ответил на эту критику, сказав, что такая функция полезности скорее была бы удовлетворена, если бы вся Солнечная Система была заполнена микроскопическими улыбающимися манекенами, чем благодаря реальному счастью людей<ref name="smile">{{cite mailing list|url=http://www.sl4.org/archive/0305/6846.html|author=Eliezer Yudkowsky|title=Re: SIAI's flawed friendliness analysis|mailinglist=Shock Level 4|date = 2003-05-29|accessdate = 2009-08-05|authorlink=Eliezer_Yudkowsky}}</ref>.


== См. также ==
== См. также ==
Строка 14: Строка 14:
* [[Трансгуманизм]]
* [[Трансгуманизм]]
* [[Технологическая сингулярность]]
* [[Технологическая сингулярность]]
* [[Проблема контроля искусственного интеллекта]]

⚫
== Литература ==
⚫
* Юдковски, Э. [http://www.scribd.com/doc/13574249/- Искусственный интеллект как позитивный и негативный фактор глобального риска.]. Вышла в книге «Риски глобальной катастрофы», Оксфорд, 2008.


== Примечания ==
== Примечания ==
{{примечания}}
{{примечания}}

⚫
== Литература ==
⚫
* Юдковски, Э. [http://www.scribd.com/doc/13574249/- Искусственный интеллект как позитивный и негативный фактор глобального риска.]. Вышла в книге «Риски глобальной катастрофы», Оксфорд, 2008.


== Ссылки ==
== Ссылки ==
* [http://www.nickbostrom.com/ethics/ai.html Ethical Issues in Advanced Artificial Intelligence] by Nick Bostrom
* [http://www.nickbostrom.com/ethics/ai.html Ethical Issues in Advanced Artificial Intelligence] by Nick Bostrom
* [http://singinst.org/friendly/whatis.html What is Friendly AI?] — A brief explanation of Friendly AI by the Singularity Institute.
* [https://web.archive.org/web/20080820125532/http://www.singinst.org/friendly/whatis.html What is Friendly AI?] — A brief explanation of Friendly AI by the Singularity Institute.
* [http://www.singinst.org/ourresearch/publications/guidelines.html SIAI Guidelines on Friendly AI] — The Singularity Institute’s Official Guidelines
* [https://web.archive.org/web/20100714022829/http://singinst.org/ourresearch/publications/guidelines.html SIAI Guidelines on Friendly AI] — The Singularity Institute’s Official Guidelines
* [http://www.singinst.org/ourresearch/publications/CFAI/index.html Creating Friendly AI] — A near book-length explanation from the SIAI
* [https://web.archive.org/web/20100317231040/http://www.singinst.org/ourresearch/publications/CFAI/index.html Creating Friendly AI] — A near book-length explanation from the SIAI
* [http://www.ssec.wisc.edu/~billh/g/SIAI_critique.html Critique of the SIAI Guidelines on Friendly AI] — by [[Bill Hibbard]]
* [http://www.ssec.wisc.edu/~billh/g/SIAI_critique.html Critique of the SIAI Guidelines on Friendly AI] — by [[Bill Hibbard]]
* [http://www.optimal.org/peter/siai_guidelines.htm Commentary on SIAI’s Guidelines on Friendly AI] — by [[Peter Voss]].
* [http://www.optimal.org/peter/siai_guidelines.htm Commentary on SIAI’s Guidelines on Friendly AI] — by [[Peter Voss]].
* [http://www.fungible.com/respect/index.html Respectful AI Project Page] by Tim Freeman
* [https://web.archive.org/web/20100530001248/http://www.fungible.com/respect/index.html Respectful AI Project Page] by Tim Freeman

{{Искусственный интеллект}}


[[Категория:Футурология]]
[[Категория:Футурология]]

Текущая версия от 12:09, 10 марта 2024

Дружественный искусственный интеллект (Дружественный ИИ, ДИИ — англ. Friendly Artificial Intelligence, Friendly AI, FAI) — концепция философии ИИ, гипотетический тип искусственного интеллекта, не оказывающий негативного влияния на человеческую цивилизацию. Многие концепции ДИИ включают утверждение о том, что он не только не будет приносить вреда человечеству, но и будет оказывать материально-информационную поддержку людям, вплоть до полного обеспечения желаний и потребностей каждого отдельно взятого человека. «Дружественный» в данном контексте является техническим термином, который не означает, что ИИ обязательно будет испытывать к человечеству чувства привязанности и близости.

Продвижение и поддержка

[править | править код]

Продвижение Дружественного ИИ является одной из основных задач Singularity Institute for Artificial Intelligence, равно как и получение финансирования этого проекта и в конечном счёте создание «зародыша ИИ», в систему мотивации которого будет изначально встроена забота о человечестве. Несколько известных футурологов высказались в поддержку теории Дружественного ИИ, включая писателя и изобретателя Рея Курцвейла, специалиста по продлению жизни Обри ди Грея и сооснователя World Transhumanist Association Ника Бострома.

11 декабря 2015 года Илон Маск, Сэм Олтмен и другие основали компанию OpenAI, целью которой является способствование созданию открытого ДИИ.

Критика

[править | править код]

Наиболее заметным критиком теории Дружественного ИИ является Билл Хиббард, автор книги «Сверхинтеллектуальные машины», который считает эту теорию неполной. Хиббард пишет, что для создания ДИИ требуется большее политическое обсуждение вопросов создания ИИ и ИИ-морали. Он также полагает, что первый ИИ может быть создан только мощными частными корпорациями (что Юдковский считает ложным), и эти транснациональные корпорации не будут иметь никаких побуждений реализовать дружественность. Критикуя рекомендации SIAI по созданию ДИИ, он предложил архитектуру целей для ИИ, в которой человеческое счастье определяется через человеческое поведение, выражающее счастье, в частности, выражение улыбки на лице. Юдковский ответил на эту критику, сказав, что такая функция полезности скорее была бы удовлетворена, если бы вся Солнечная Система была заполнена микроскопическими улыбающимися манекенами, чем благодаря реальному счастью людей[1].

См. также

[править | править код]

Примечания

[править | править код]
  1. ↑ Eliezer Yudkowsky (2003-05-29). "Re: SIAI's flawed friendliness analysis". Shock Level 4 (Mailing list). Архивировано 13 декабря 2009. Дата обращения: 5 августа 2009.

Литература

[править | править код]

Ссылки

[править | править код]
Источник — https://ru.wikipedia.org/ruwiki/w/index.php?title=Дружественный_искусственный_интеллект&oldid=136598955