Може ли AI да унищожи човечеството – и как всъщност би го направил?
Изкуственият интелект може да унищожи човечеството – поне според част от хората, които работят в самата AI индустрия. Някои от тях дори смятат, че това може да се случи в рамките на следващото десетилетие.
Политици, медии и експерти реагираха тревожно миналата седмица, след като служителят на Anthropic Джейкъб Коксън обяви, че напуска компанията, защото смята работата ѝ за твърде опасна. Друг служител – Евън Хъбингър – оцени вероятността AI да доведе до изчезването на човечеството в следващите десет години на над 10%.
„Става дума буквално за смъртта на всички хора на планетата – до последния човек, който поема последния си дъх“, казва Нейт Соарес, президент на Machine Intelligence Research Institute (MIRI) и съавтор на книгата If Anyone Builds It, Everyone Dies.
Политици, медии и експерти реагираха тревожно миналата седмица, след като служителят на Anthropic Джейкъб Коксън обяви, че напуска компанията, защото смята работата ѝ за твърде опасна. Друг служител – Евън Хъбингър – оцени вероятността AI да доведе до изчезването на човечеството в следващите десет години на над 10%.
„Става дума буквално за смъртта на всички хора на планетата – до последния човек, който поема последния си дъх“, казва Нейт Соарес, президент на Machine Intelligence Research Institute (MIRI) и съавтор на книгата If Anyone Builds It, Everyone Dies.
Хората често не…