Ми викликали чужий, нелюдський розум. Ми мало що знаємо про нього, окрім того, що він надзвичайно потужний і пропонує нам приголомшливі дари, але водночас може підірвати основи нашої цивілізації.

Щодо дарів - є питання і питання... Купа питань!
Використання ядерної енергії навіть близько не стоїть поруч з новим викликом, що виник перед людством. Наочна демонстрація катастрофічної сили атома викликала ввімкнення запобіжних механізмів, котрі, хоч і не дають гарантій і постійно атакуються фанатиками і політиками з поїхавщим дахом, але дають надію і якийсь контроль.
ШІ - це проблема людства не в рази, а на декілька порядків потенційно страшніша за неконтрольований атом!
Для розробки й удосконалення не потрібні унікальні, секретні й непоширенні технології. Витрати на розробку й близько не стоять поряд з витратами на "Санрайз кроссворд" чи радянську атомну программу. Дефіцита "сировини" не існує в принципі. Випробувань, при бажанні розробників, помітити неможливо.

Якщо вірус, вирвавшись на свободу, спричинив глобальну кризу людству  у всіх сферах, то неможливо уявити масштаб катастрофи, що може створити "вірус" злонаміренного  ШІ вирвавшись (або умисно випущений) з рук своїх творців. Розповсюдження - миттєве, лік на хвилини, години максимум, ніяких кордонів, ніяких вакцин, розміри збитків і кількість жертв (без ядерних грибів, то зайве) неможливо уявити. Якщо інвазія в світові мережі пройде непомітно, що дуже вірогідно, то навіть при нинішньому рівні комп'ютерізації життя, під ударом - абсолютно всі сфери життя людей, де наявні комп'ютери... А де їх тепер нема? Чим більший рівень комп'ютерізації - тим масштабнішими можуть бути втрати.
І це не страшилкі. Це нова реальність, прихід якої вже не спинити. Що вона принесе? Поки що залежить від людей, але "скільки хвлин до 12-ї" вже важко сказати.