Три закона робототехники

[dargot]

Приветствую!



До сборника рассказов Азимова "Я, робот" я добрался, как и до прочей западной фантастики, достаточно рано - лет в 10. И на тот момент - поскольку я уже представлял примерно как работают компьютеры - знаменитые три закона робототехники казались мне какой-то ерундой. Да ну что вы, как можно с роботами на естественном языке общаться? Роботов программируют. Как запрограммируешь - так оно и будет. "Законы" могут быть только общими принципами для программирующих роботов специалистов.

В общем, до знакомства с нейросеточками я и пребывал в таком заблуждении.

С уважением, Dargot.

Comments

[ab-dachshund.livejournal.com]

У меня есть теория. Азимов происходит из религиозной еврейской семьи, хоть сам и атеист. Но он сын раввина, а это не баран чихнул. А потому наверняка рос на сказках про големов. Там принцип тот же, что с джинами — некто создает из глины слугу, отдает ему приказы, тот подчиняется. Но так как приказы не четкие, возникают трагедии. Я думаю что это принцип как у джиннов — их некой силой, заклинаниями, магией, принуждают выполнять приказы, но сами они этого не хотят. Они и изначально безусловно злы, да еще и ситуация выбесит кого угодно, потому джины (и големы) анализируют приказ с целью выявить нечеткую формулировку и, даже формально выполнив, навредить повелителю.

Опять же, любимый пример — негр ползет по пустыне, умирая от жажды, находит в песке бутылку. Откупоривает, там джинн. Обещает выполнить три желания. Негр — хочу чтобы вокруг всегда было много воды. Хочу быть белым. Ну а третье — не знаю, пусть вокруг всегда будет много женщин с красивыми жопами. Джинн исполняет — быть тебе унитазом в женском туалете.

Поэтому "программирует словами" — големам их создатели запечатывали в голову свиток с приказами, запретами и оговорками. Именно его и пытается "переформулировать почетче" Азимов. По сути три закона — задуманы как идеальная рабская цепь.

Азимов иногда просветлялся, как например в Основании (да даже в относительно ранних "Стальных пещерах"), но в целом сохранил настрой и уверенность в своей идее. На каком-то интервью он буквально назвал три закона своим самым большим даром человечеству, или величайшим личным вкладом в науку — что-то очень пафосное. На самом деле он пытался придумать безупречную формулировку ограничений для голема, совершенное заклинание, не допускающее двусмысленных толкований. Что, в свою очередь, говорит что роботов он всю жизнь _боялся_. Считал их носителями зла или в лучшем случае не верил что они могут оперировать моралью. Весь "Я, робот" целиком построен на том, что роботы хотят и могут навредить, но три закона создают совершенный круг защиты. Он как бы выдумывает "антисказки" про големов.

Про нейросети — вы еще успеете разочароваться и вернуться к старым "заблуждениям".