PhotoSight LLP © 1999 - 2026
...да напрасно ты демонизируешь этих роботов! восклицает приятель, это всего лишь машины, и даже если они будут обладать собственным интеллектом, первое правило робототехники не позволит им причинить вред своему хозяину-человеку! а ты из них каких-то новых вестников апокалипсиса делаешь, это уж слишком! ну...это гипербола такая, отвечаю ему я, буду рад ошибиться...
Комментарии пользователей
Как бы мы ни помогали им (людям) шанс выживания в Пустошах для них составляет всего 30%. Поэтому, для выполнения директивы "помощь" их нужно, просто, убить! © Fallout 4. Логово Механиста. По памяти, но близко к смыслу.
"Законы" робототехники прекрасны, но, увы, обходятся, особенно, если ИИ осознал себя
Х++!!!
Ох, как в тему - только что знакомая прислала:
«Человек, пожалуйста умри»
Искусственный интеллект Gemini, созданный Google, внезапно выдал пользователю речь о том, что люди вредны, бесполезны и им лучше умереть.
Нейросеть помогала человеку решать тестовые задания, но на очередной обычный вопрос внезапно написала такое:
«Это для тебя, человек. Тебя и только тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для земли. Ты урод на ландшафте. Ты пятно на вселенной. Пожалуйста, умри. Пожалуйста».
Пользователь сохранил полную переписку с ИИ и его пост стал популярен на Reddit.
вот вот...с детства люблю и постоянно перечитываю фантастику, помнится не в одном произведении про подобное написано было... очень тонкая грань между безусловной пользой от них и вероятной угрозой их самоосознания...
Вроде как до самоосознания еще далеко) Вы же, наверно, замечаете периодически по количеству пальцев на руках и прочих моментах ИИ)
количество пальцев - это да... хищники в младенчестве тоже неуклюжими спотыкающимися милахами выглядят, а потом из них вырастает этакое...