Три закона робототехники

[dargot]

Приветствую!



До сборника рассказов Азимова "Я, робот" я добрался, как и до прочей западной фантастики, достаточно рано - лет в 10. И на тот момент - поскольку я уже представлял примерно как работают компьютеры - знаменитые три закона робототехники казались мне какой-то ерундой. Да ну что вы, как можно с роботами на естественном языке общаться? Роботов программируют. Как запрограммируешь - так оно и будет. "Законы" могут быть только общими принципами для программирующих роботов специалистов.

В общем, до знакомства с нейросеточками я и пребывал в таком заблуждении.

С уважением, Dargot.

Comments

[ab-dachshund.livejournal.com]

У меня есть теория. Азимов происходит из религиозной еврейской семьи, хоть сам и атеист. Но он сын раввина, а это не баран чихнул. А потому наверняка рос на сказках про големов. Там принцип тот же, что с джинами — некто создает из глины слугу, отдает ему приказы, тот подчиняется. Но так как приказы не четкие, возникают трагедии. Я думаю что это принцип как у джиннов — их некой силой, заклинаниями, магией, принуждают выполнять приказы, но сами они этого не хотят. Они и изначально безусловно злы, да еще и ситуация выбесит кого угодно, потому джины (и големы) анализируют приказ с целью выявить нечеткую формулировку и, даже формально выполнив, навредить повелителю.

Опять же, любимый пример — негр ползет по пустыне, умирая от жажды, находит в песке бутылку. Откупоривает, там джинн. Обещает выполнить три желания. Негр — хочу чтобы вокруг всегда было много воды. Хочу быть белым. Ну а третье — не знаю, пусть вокруг всегда будет много женщин с красивыми жопами. Джинн исполняет — быть тебе унитазом в женском туалете.

Поэтому "программирует словами" — големам их создатели запечатывали в голову свиток с приказами, запретами и оговорками. Именно его и пытается "переформулировать почетче" Азимов. По сути три закона — задуманы как идеальная рабская цепь.

Азимов иногда просветлялся, как например в Основании (да даже в относительно ранних "Стальных пещерах"), но в целом сохранил настрой и уверенность в своей идее. На каком-то интервью он буквально назвал три закона своим самым большим даром человечеству, или величайшим личным вкладом в науку — что-то очень пафосное. На самом деле он пытался придумать безупречную формулировку ограничений для голема, совершенное заклинание, не допускающее двусмысленных толкований. Что, в свою очередь, говорит что роботов он всю жизнь _боялся_. Считал их носителями зла или в лучшем случае не верил что они могут оперировать моралью. Весь "Я, робот" целиком построен на том, что роботы хотят и могут навредить, но три закона создают совершенный круг защиты. Он как бы выдумывает "антисказки" про големов.

Про нейросети — вы еще успеете разочароваться и вернуться к старым "заблуждениям".

[gray-gray-rain.livejournal.com]

Это не "законы", это этические нормы никакого отношения к роботам, и, тем более, к программированию не имеющие. Этические нормы логически не формализуются.

[shkslj.livejournal.com]

Я до сих пор не могу решить как отношусь к 3 императорам. Биполярненько и диалектично мне и нравится идея и не нравится

[john-jack.livejournal.com]

Законы — на то и законы (а не нормы!), чтобы их нарушать. Постоянные попытки их обойти интересны для сюжета, но сама идея прикручивать к разумному существу запреты вместо мотивации ущербна, пушо непродуктивна.

[shkslj.livejournal.com]

Не очень понял

[john-jack.livejournal.com]

С одной стороны, классики просто не могли себе представить достаточно сложную машину (хотя казалось бы — посмотри на бюрократию), потом их "роботы" всегда аллегория на угнетённых людей. К нынешней технике они просто не относятся, не считая за ту технику незаменимого иностранного сервитора.
С другой, ха — нейросети! Попытки моделирования в кадах на большую часть состоят не из собственно проектирования, а из попыток заставить долбаный алгоритм провести очередную линию как тебе надо, а не как ему попало. И вроде бы несложные аналоговые механизмы в реальной жизни постоянно ведут себя не как запроектировано.
Роботам же надо программировать не законы, а желания. С законами сперва придётся программировать даже не императивы, а определения — что такое "робот", "человек", "вред", "действие"? С желаниями гораздо проще: делай что вызывает положительный отклик (например радуй хозяина)к, а что не вызывает, то не делай.