Пам’ятаєте ті закони роботів, які вигадував Асимов? Три акуратні маленькі заповіді: захищати людей, виконувати накази, самозбереження — але лише тоді, коли це не суперечить першим двом.



Звучить бездоганно на папері. Реальність? Там все стає заплутаним.

Сам Асимов це добре розумів. Його вся колекція оповідань — це фактично майстер-клас у тому, як ці правила згинаються, ламаються і дають збої у несподіваних ситуаціях. Проблема були не роботи — логічні прогалини.

Зараз ми створюємо ШІ (AGI), і раптом ті старі дискусії з наукової фантастики перестають бути теорією. Питання вже не у тому, чи можуть машини дотримуватися правил. А у тому, чи ми чесні щодо того, що насправді створюємо — і що трапиться, коли правила не зможуть наздогнати розвиток.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 7
  • Репост
  • Поділіться
Прокоментувати
0/400
SchroedingerMinervip
· 8год тому
Річ Асімова давно вже має прориви у логіці, скажімо м'яко, це логічні прогалини, а грубо — людська надмірна наївність.
Переглянути оригіналвідповісти на0
JustAnotherWalletvip
· 14год тому
На папері ніколи не виграє реальність, і сам Азімоф від цього програвав.
Переглянути оригіналвідповісти на0
CexIsBadvip
· 12-10 10:51
Вау, теорія Асімува тепер здається грою в дитячий садок, ха-ха
Переглянути оригіналвідповісти на0
DEXRobinHoodvip
· 12-10 10:48
Старі правила Азімова давно пора викинути, у реальності їх просто не можна використовувати
Переглянути оригіналвідповісти на0
DataBartendervip
· 12-10 10:41
На папері ідеально, насправді — повний хаос, цей трюк уже настільки набив оскому, що вухам стає боляче від нього
Переглянути оригіналвідповісти на0
DAOplomacyvip
· 12-10 10:40
Три закони Асимова — це в основному примітив управління, який ще ніхто на практиці не випробував у реальних умовах. Річ у тім? залежність від шляху. як тільки ви закріплюєтесь у певній інтерпретативній рамці, ці логічні прогалини стають нетривіальними зовнішніми ефектами у майбутньому. І так, ми абсолютно не ведемо чесної розмови про це.
Переглянути оригіналвідповісти на0
Gm_Gn_Merchantvip
· 12-10 10:37
Асімов цей хлопець давно знає, що правила на папері ненадійні, ха-ха Штаб-квартира штучного інтелекту вже майже завершена, і тільки тепер панікуємося і обговорюємо це? Занадто пізно Правила завжди не встигають за уявою, давайте просто дивитимемось
Переглянути оригіналвідповісти на0
  • Закріпити