Patarakin: 1 версия импортирована

2026-02-17T09:03:57Z

1 версия импортирована

← Предыдущая версия	Версия от 12:03, 17 февраля 2026
(нет различий)

ru_wikipedia>InternetArchiveBot: Спасено источников — 3, отмечено мёртвыми — 0. Сообщить об ошибке. См. FAQ.) #IABot (v2.0.8.7

2022-04-22T00:57:32Z

Спасено источников — 3, отмечено мёртвыми — 0. Сообщить об ошибке. См. FAQ.) #IABot (v2.0.8.7

Новая страница

'''Робоэтика''' (сокр. от «этика робототехники») — [[Междисциплинарное направление|междисциплинарная]] исследовательская деятельность, находящаяся на стыке [[этика|этики]] и [[робототехника|робототехники]] и направленная на изучение процесса интеграции [[робот]]ов в человеческое [[общество]]. Робоэтика описывает социальные, [[мораль]]ные и юридические аспекты взаимодействия робота и человека. Основная задача робоэтики — развитие научных, культурных и технических средств, которые могут способствовать развитию робототехники и предотвратить её [[Восстание машин|использование против человечества]].
Некоторые специалисты, занимающющиеся вопросами робоэтики, называют себя ''кибер[[философ]]ами''<ref name="синица">Синица А. С. Морально-этические аспекты теории искусственного интеллекта // Молодой ученый. — 2015. — №18. — С. 419-423.</ref>.

Понятие робоэтики — частный случай понятия [[Этика искусственного интеллекта|этики искусственного интеллекта]] (ИИ), которое рассматривает в принципе наличие [[сознание|сознания]] у ИИ и способность машин к [[мышление|мышлению]]<ref name="синица" />.

== Актуальность ==
Человеческая [[культура]] устроена крайне сложно, и когда роботы станут её частью, важно обеспечить их грамотную интеграцию. Необходимость изучения робоэтики в современном мире вызвана прежде всего увеличением количества тех ситуаций, когда искусственный интеллект принимает решения, которые могут причинить вред человеку. Так, в случае, если одна из [[Жертва|жертв]] неизбежна, что должен выбрать [[беспилотный автомобиль]]: сбить взрослого, находящегося на пешеходном переходе, или ребёнка, перебегающего дорогу в неположенном месте?

Возможность принимать самостоятельные решения — единственный для роботов способ преодолеть проблему взаимодействия с людьми, поведение которых носит изменчивый и иррациональный характер. Соответственно, робоэтика — необходимый элемент адаптации искусственного интеллекта в человеческом обществе. Чем сложнее становятся роботы, тем большего регулирования они требуют с точки зрения [[безопасность|безопасности]] и [[Нормы морали|норм морали]].
Основная задача робоэтики — сделать взаимодействие с роботами безопасным и эффективным для человека.

Также стоит проблемный вопрос о том, какими методами можно вложить в роботов представления о правильном и неправильном, дозволенном и недозволенном. Кроме того, важно определить, кто будет нести ответственность за сбой в алгоритмах робота, приведший к негативным последствиям: хозяин робота или [[разработчик]]. Для решения этих вопросов необходимо прежде всего создание [[Правовые отношения|правовых норм]] для регуляции этой зоны ответственности.<ref> Перевод принципов по робоэтике от [[IEEE]]. Rusian Behavioral Unit. 2 издание, 2017. С. 17-18.</ref>

== История явления. Законы Азимова ==
Начиная с середины XX века представления о робоэтике базировались на ''законах Азимова'' («[[Три закона робототехники]]») — в 1942 году американский писатель-фантаст [[Айзек Азимов]] в рассказе «[[Хоровод (рассказ)|Хоровод]]» сформулировал свои Три закона роботехники<ref name="Три_закона"> Азимов, А. Улики // Мечты роботов. — М.: Эксмо, 2004. — С. 142—169. — ISBN 5-699-00842-X. </ref>:
<blockquote>
<poem>
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
</poem>
</blockquote>

В одном из рассказов цикла Азимов вложил в уста своего персонажа мысль об этической основе Трёх Законов:
<blockquote> "…если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле… "<ref name="Три_закона" /> </blockquote>

Позднее Азимов сформулировал основополагающий нулевой закон, главенствующий над остальными<ref name="Три_закона" />:
<blockquote> 0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
</blockquote>

В настоящий момент многие ученые высказываются о том, что законы Азимова применимы лишь к [[научная фантастика|научной фантастике]], и потому нуждаются в переработке и адаптации к современным реалиям.

Роджер Кларк, ведущий учёный [[Планетологический институт США|планетологического института США]], посвятил ряд научных работ исследованию возможностей применения законов Азимова на современной технике.

Он пишет:

<blockquote> «Азимовские Законы роботехники стали успешным литературным инструментом. Возможно по иронии, а может, это был мастерский ход, но в целом азимовские истории опровергают ту точку зрения, с которой он начал: Невозможно надёжно ограничить поведение роботов, изобретая и применяя некоторый набор правил».''<ref> Clarke, Roger. Asimov’s laws of robotics: Implications for information technology. IEEE Computer, декабрь 1993, С. 53—61. </ref> </blockquote>

== Международный симпозиум по робоэтике ==
В 2004 году в [[Сан-Ремо]] прошёл Первый Международный симпозиум по робоэтике, в котором приняли участие инженеры, учёные, [[философия|философы]], [[социология|социологи]], [[антропология|антропологи]] и литераторы из разных стран.

Целью симпозиума было создание условий для диалога между [[эксперт]]ами из различных областей знаний. В ходе дискуссии были подняты вопросы о том, владеют ли интеллектуальные роботы [[сознание]]м, испытывают ли [[чувство|чувства]] и представляют ли опасность для человечества.

Эксперты выразили обеспокоенность в связи с наступлением машин на человечество по четырём фронтам сразу:

* массовое создание роботов для военных целей;
* внедрение искусственных механизмов управления в [[мозг]] живого человека, подобно экспериментам с лабораторными крысами;
* увеличение физической силы роботов на фоне недостаточного интеллектуального развития;
* непредсказуемость человеческой реакции на присутствие роботов в повседневной жизни.<ref>The ethics, social, humanitarian and ecological aspects of Robotics URL: http://www.roboethics.org/sanremo2004/ {{Wayback|url=http://www.roboethics.org/sanremo2004/ |date=20181118002532 }}</ref>

== Основные принципы современной робоэтики ==
На конференции Beneficial AI 2017 почти 1000 исследователей в области [[искусственный интеллект|искусственного интеллекта]] и [[робототехника|робототехники]] и около 1500 экспертов в других сферах, включая [[Chief Executive Officer|CEO]] [[Tesla]] [[Илон Маск|Илона Маска]] и знаменитого физика [[Стивен Хокинг|Стивена Хокинга]] обсуждали безопасность искусственного интеллекта и возможные пути его дальнейшего развития. Целью мероприятия стало привлечь внимание общественности к искусственному интеллекту, добиться того, чтобы робоэтика и машинная мораль перестали быть [[маргинализация|маргинальными]] в [[общественное сознание|общественном сознании]]. По итогам конференции участники составили и подписали список из 23 пунктов.

Ниже приведены некоторые из них, относящиеся непосредственно к вопросам робоэтики:

* [[Искусственный интеллект]] должен быть спроектирован и использован так, чтобы быть совместимым с идеалами человеческих достоинства, прав, свобод и культурного разнообразия.
* При работе с [[персональные данные|персональными данными]] ИИ не должен необоснованно ограничивать реальные или мнимые свободы людей.
* Действия ИИ должны идти на пользу человеческой деятельности, а не во вред.
* Суперразум должен будет служить всему человечеству, а не конкретной частной организации или [[государство|государству]].<ref>James Grabey. Stephen Hawking and Elon Musk Endorse 23 Principles for A.I., 2017. URL: https://www.inverse.com/article/27349-artificial-intelelgence-ethis-safety-asilomar {{Wayback|url=https://www.inverse.com/article/27349-artificial-intelelgence-ethis-safety-asilomar |date=20181210224243 }}</ref>

== Критика ==
В ходе первого Международного симпозиума по робоэтике (2004) некоторые ученые отнеслись критически к необходимости изучения этики [[искусственный интеллект|искусственного интеллекта]], так как в целом этическая сторона вопроса, по их мнению, нерелевантна для сферы [[высокие технологии|высоких технологий]].

В частности, [[Стерлинг, Брюс|Брюс Стерлинг]], один из участников конференции, ставит под сомнение актуальность робоэтики как [[философия|философской дисциплины]].
В статье «Robots and the rest of us» он пишет следующее<ref>Sterling, Bruce. Robots and the rest of us, 2004. URL: https://www.wired.com/2004/05/robots-and-the-rest-of-us/ {{Wayback|url=https://www.wired.com/2004/05/robots-and-the-rest-of-us/ |date=20170429022853 }}</ref>:
<blockquote>С каких пор машинам нужен этический кодекс? В течение 80 лет провидцы представляли себе роботов, которые выглядят как мы, работают как мы, воспринимают мир, судят его и принимают меры самостоятельно. Робот-дворецкий все ещё такой же мистический, как летающий автомобиль. </blockquote>

Создание разумных роботов означает попытки приблизить искусственный интеллект к естественному, а значит наделение роботов [[свобода воли|свободной волей]]. По мнению ряда учёных, роботы должны оставаться лишь машиной для удовлетворения потребностей человека, наделение их сознанием и способностью испытывать чувства противоречит самой идее их создания и потенциально несет в себе опасность.<ref> ''Степанова Е.'' Место обучения робоэтике в системе современного образования. Муниципальное образование: инновации и эксперимент № 6, 2011. С. 74 — 77. </ref>

== См. также ==
* [[Этика искусственного интеллекта]]

== Примечания ==
{{примечания}}

== Литература ==
* Синица А. С. Морально-этические аспекты теории искусственного интеллекта // Молодой ученый. — 2015. — № 18. — С. 419—423.
* Азимов, А. Улики // Мечты роботов. — М.: Эксмо, 2004. — С. 142—169. — ISBN 5-699-00842-X.
* Степанова Е. Место обучения робоэтике в системе современного образования. Муниципальное образование: инновации и эксперимент № 6, 2011. С. 74 — 77.
* Перевод принципов по робоэтике от IEEE. Rusian Behavioral Unit. 2 издание, 2017. С. 17-18.

{{Робототехника}}
{{Искусственный интеллект}}

[[Категория:Этика]]
[[Категория:Робототехника]]
[[Категория:Философия искусственного интеллекта]]

Робоэтика - История изменений

Patarakin: 1 версия импортирована

ru_wikipedia>InternetArchiveBot: Спасено источников — 3, отмечено мёртвыми — 0. Сообщить об ошибке. См. FAQ.) #IABot (v2.0.8.7