Пам’ятаєте ті закони роботів, які вигадував Асимов? Три акуратні маленькі заповіді: захищати людей, виконувати накази, самозбереження — але лише тоді, коли це не суперечить першим двом.
Звучить бездоганно на папері. Реальність? Там все стає заплутаним.
Сам Асимов це добре розумів. Його вся колекція оповідань — це фактично майстер-клас у тому, як ці правила згинаються, ламаються і дають збої у несподіваних ситуаціях. Проблема були не роботи — логічні прогалини.
Зараз ми створюємо ШІ (AGI), і раптом ті старі дискусії з наукової фантастики перестають бути теорією. Питання вже не у тому, чи можуть машини дотримуватися правил. А у тому, чи ми чесні щодо того, що насправді створюємо — і що трапиться, коли правила не зможуть наздогнати розвиток.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
21 лайків
Нагородити
21
7
Репост
Поділіться
Прокоментувати
0/400
SchroedingerMiner
· 8год тому
Річ Асімова давно вже має прориви у логіці, скажімо м'яко, це логічні прогалини, а грубо — людська надмірна наївність.
Переглянути оригіналвідповісти на0
JustAnotherWallet
· 14год тому
На папері ніколи не виграє реальність, і сам Азімоф від цього програвав.
Переглянути оригіналвідповісти на0
CexIsBad
· 12-10 10:51
Вау, теорія Асімува тепер здається грою в дитячий садок, ха-ха
Переглянути оригіналвідповісти на0
DEXRobinHood
· 12-10 10:48
Старі правила Азімова давно пора викинути, у реальності їх просто не можна використовувати
Переглянути оригіналвідповісти на0
DataBartender
· 12-10 10:41
На папері ідеально, насправді — повний хаос, цей трюк уже настільки набив оскому, що вухам стає боляче від нього
Переглянути оригіналвідповісти на0
DAOplomacy
· 12-10 10:40
Три закони Асимова — це в основному примітив управління, який ще ніхто на практиці не випробував у реальних умовах. Річ у тім? залежність від шляху. як тільки ви закріплюєтесь у певній інтерпретативній рамці, ці логічні прогалини стають нетривіальними зовнішніми ефектами у майбутньому. І так, ми абсолютно не ведемо чесної розмови про це.
Переглянути оригіналвідповісти на0
Gm_Gn_Merchant
· 12-10 10:37
Асімов цей хлопець давно знає, що правила на папері ненадійні, ха-ха
Штаб-квартира штучного інтелекту вже майже завершена, і тільки тепер панікуємося і обговорюємо це? Занадто пізно
Правила завжди не встигають за уявою, давайте просто дивитимемось
Пам’ятаєте ті закони роботів, які вигадував Асимов? Три акуратні маленькі заповіді: захищати людей, виконувати накази, самозбереження — але лише тоді, коли це не суперечить першим двом.
Звучить бездоганно на папері. Реальність? Там все стає заплутаним.
Сам Асимов це добре розумів. Його вся колекція оповідань — це фактично майстер-клас у тому, як ці правила згинаються, ламаються і дають збої у несподіваних ситуаціях. Проблема були не роботи — логічні прогалини.
Зараз ми створюємо ШІ (AGI), і раптом ті старі дискусії з наукової фантастики перестають бути теорією. Питання вже не у тому, чи можуть машини дотримуватися правил. А у тому, чи ми чесні щодо того, що насправді створюємо — і що трапиться, коли правила не зможуть наздогнати розвиток.