“Ако някой някъде създаде суперинтелект, всички хора ще загинат. Това не е същото като създаването на една-единствена атомна бомба - това предизвиква международен шум, но не е краят на света.
Никой не трябва да има право да прави еквивалент на ядрена бомба никъде и да я взриви дори веднъж. Никой не трябва да има право да създава изкуствен суперинтелект, иначе всички сме мъртви.
Сред мерките, които могат да бъдат предприети, е да се съберат всички чипове, използвани за обучение на ИИ, които са сложни за производство и скъпи за експлоатация. Всички те трябва да бъдат под международен контрол.
И ако някоя недобросъвестна държава събере куп чипове и се опита да ги използва без международен надзор, това трябва да се заяви ясно и дипломатично:
„Спрете това, или в името на нашия живот и живота на нашите деца ще унищожим вашия център за данни с всички възможни средства.“
И ако не спрат, просто трябва да хвърлим бомба за унищожаване на бункери върху центъра им за данни.
Всъщност това е стандартна практика: нещо като режим за неразпространение на ядрени оръжия, само че малко по-сериозно.”






