Який найстрашніший уявний експеримент, коли-небудь записаний?
Василіск Роко це уявний експеримент, який стверджує, що інакше доброзичливий штучний
(AI) у майбутньому матиме стимул створити симуляцію віртуальної реальності, щоб мучити будь-кого, хто знав про її потенційне існування, але не брав прямого внеску в її просування чи розвиток, щоб…
Аргумент Роко був загалом відхилений на Less Wrong, а коментатори заперечували проти цього агент, подібний до того, про якого розповідав Роко, не мав би реальних причин виконувати свою погрозу: коли агент уже існує, він за замовчуванням розглядатиме це як марну трату ресурсів, щоб мучити людей за їхні минулі рішення, оскільки …
Василіск Роко передбачає сценарій майбутнього, коли надрозумний штучний інтелект, здатний перевершити людський інтелект, може покарати тих, хто знав про його потенційну появу, але вирішив не сприяти його створенню.
10 найвідоміших уявних експериментів
- Бомба уповільненої дії. …
- Світловий промінь Ейнштейна. …
- Корабель Тесея. …
- Гравітаційний експеримент Галілея. …
- Мавпи і друкарські машинки. …
- Китайська кімната. …
- Кот Шредінгера. …
- Мозок у чані.
Передумова теорії про те, що просто знання про василіска Роко може зробити вас мішенню для покарання з боку майбутнього суперінтелекту, як повідомляється, спричинило у деяких користувачів напади паніки. Цей парадоксальний елемент – знання самі по собі стають потенційним ризиком – ось що робить розумовий експеримент таким тривожним.
Василіск Роко це уявний експеримент, який стверджує, що інакше доброзичливий штучний суперінтелект (ШІ) у майбутньому матиме стимул створити симуляцію віртуальної реальності, щоб мучити будь-кого, хто знав про його потенційне існування, але безпосередньо не сприяв його просуванню чи розвитку, щоб . ..