Foundation Universe / Галактическая история Айзека Азимова

[Хрюша]

Ну так вы определились, на скока азимовские законы робототехники могут быть реальны в реале?

 

[Сехметхотеп]

Так я вроде и не отрицал, что это итсмеджик

Тогда вопросов нет.

Сам робот осознает факт, что действия причиняют вред и эта информация автоматически передается на систему, отслеживающую выполнение Законов.

Только замечу, что в реальности, а не в истмэджике, это будет работать очень криво. Что представляет собой "вред", именно само понятие? Это субъективное понимание некого обобщенного представления о комплексе действий. То есть, чтобы человек понял, что перед ним "вред", нужны 3 составляющие:
- он должен усвоить, как окружающие определяют это понятие;
- сам его осмыслить;
- столкнуться с этим на практике.
Если вы дадите тысяче человек тест, что является вредом, а что нет, то по их ответам увидите, что есть некое общее ядро, есть ответы, свойственные для подавляющего большинства (но могут быть и единичные исключения), и есть малопопулярные ответы. Собственно, это и есть ядерная, околоядерная зоны и периферия (ближняя и дальняя) понятий/концептов. И возникает все это вследствие того, что понятия могут усваиваться только через субъективное восприятие. Ошибочно считать, что в случае ИИ - при данном подходе - будет что-то принципиально иное. Да, определенного типового поведения добиться можно, но всегда будут исключения.
И это если говорить про причинение вреда самому. Если вводим условие "не допустить вреда бездействием", то все становится на порядок сложнее и неустойчивее.
Но ладно, мы сошлись, что это просто истмэджик.

 

[Гагарион]

Ошибочно считать, что в случае ИИ - при данном подходе - будет что-то принципиально иное.

Ну собственно и не утверждается, что в случае ИИ что-то качественно иное. Солярианцы своим роботам вообще внушили мысль, что люди с других планет не люди и их можно валить сколько влезет.
По сути азимовские роботы (особенно, поздние по хронологии, типа Жискара, Даниила или Дорс) - это такие же личности как люди, только снабженные ограничителями. В этом плане действие законов можно еще сравнить с тем психическим программированием, которому подвергся ГГ "Заводного апельсина"

 

[xubuntu_user]

Грубо говоря, что именно обеспечит, что "Закон автоматически врубится"? Если это истмэджик, то вопросов нет.

Закону не нужно врубаться, все ПО любого позитронного мозга написано исходя из 3 законов. Так уж решил Азимов как творец этого мира и это постоянно повторяется как в цикле "Я, робот" , так и в полновесных книгах из цикла о Бейли и Р.Дениэле. А та особенность друга Р.Жискара, которая и позволила ему шагнуть дальше 3 законов, как раз и была обусловлена попытками написать моды к ванильной версии. Чему вполне веришь .

 

[Марш]

Во второй серии "Основания" авторов понесло куда-то не туда. А начиналось всё неплохо. Посмотрим на третью, хотя прогноз плохой

 

[Elli]

Пока никаких признаков морального устаревания азимовской роботехники я не вижу.

Просто первыми кто начнет использавать ИИ, будут военные, а им законы робототехники совершенно не нужны.

 

[knight errant]

Просто первыми кто начнет использавать ИИ, будут военные, а им законы робототехники сове...

Позвольте в этом усомниться ) Френдли-файр военным тоже не нужен, особенно от управляемого ИИ бомбардировщика или субмарины с ядерным оружием на борту. Так и до вселенной Терминатора можно докатиться

 

[Griselda]

Просто первыми кто начнет использавать ИИ, будут военные, а им законы робототехники сове...

По ходу Кубрик ничему не научил.

 

[Гагарион]

Просто первыми кто начнет использавать ИИ, будут военные, а им законы робототехники совершенно не нужны.

Военные на сильный ИИ смотрят крайне скептически, потому что пока он не будет отработан на гражданских задачах, это обезьяна с гранатой.

 

[Elli]

knight errant Гагарион

Ответил в научно конспирологическом.

 

[дми]

Статуя Селдона очень похоже на статую Ленина. Только руки указывающей в даль не хватает.

 

[Rosamund]

Посмотрела 3 серию Основания и вообще серия мне понравилась, несмотря на скачки во времени.
"Хари Селдон давно мертв" и даже голограммы не завезли И даже не пояснили, что за дичь произошла в конце 2 серии Но я не теряю надежду.

Статуя Селдона очень похоже на статую Ленина. Только руки указывающей в даль не хватает....

Людям всегда нужны боги и герои) Но героиня права, на мой взгляд, нужно уже начинать думать своей головой.

 

[дми]

Rosamund , В общих чертах все понятно, но детали будут в следующих сериях. Гаал вполне жива и скорее всего вернется в повествование, как персонаж, но как рассказчик она вполне намекала на спланированные действия Селдона.

 

[Алфер]

Я думаю и мост он тоже до кучи подвзорвал.

 

[petriv]

Хрюша , нет не могут. Это чушь, чтобы сделать роботов дружелюбными. Если появится реальный искусственный интеллект, то он будет убивать людей. Вопрос исключительно в рамках этих убийств. Это будут единичные случаи или серьезное влияние.

Азимову просто пришлось писать в условиях, когда роботов считали угрозой и вот он выдумал идею отчего роботы хорошие. Это такая себе отмазка, но к научности не имеет никакого отношения.

 

[knight errant]

Я думаю и мост он тоже до кучи подвзорвал....

Не исключено, мне такая мысль уже во второй серии пришла в голову ) Хотя заказчиком может быть и Брат День.

 

[Алфер]

я больше в Дэниела поверю
а Дню то нафига

 

[knight errant]

а Дню то нафига

Войти в историю и гайки на периферии закрутить.

 

[Хрюша]

Азимову просто пришлось писать в условиях, когда роботов считали угрозой и вот он выдумал идею отчего роботы хорошие.

Роботы будут такими, какими их сделает человек. Боевые ессно будут убийцами. А вот какой-нить домашний робот - его с чего убийцей делать? Даже чтобы воров и бандитов отпугнуть, можно снабдить не летальными способами обезвреживания.

З.Ы. Не тока у Азимовы бывают хорошие роботы. У Саймака они практически всегда положительные персы.

 

[KOT-a]

Азимову просто пришлось писать в условиях, когда роботов считали угрозой и вот он выдумал идею отчего роботы хорошие.

Вообще, в классической старой фантастике как раз роботы всегда положительные сугубо.