Poate un singur om pentru a distruge lumea

arme Apocalipsul acum - privilegiul puterilor mondiale. Dar acest lucru se poate schimba. Timp de mai multe decenii, grupuri mici sau chiar persoane fizice vor fi în măsură să pună mâna pe tehnologia ucigaș în orice cantitate. Ca și cum ar suna înfiorător, lumea poate fi distrusă de un grup mic sau o persoană care acționează singur. Și iată cum.

Ca van Nedervelde și Barratt, ambele sunt îngrijorat de faptul că noi nu luăm această oportunitate foarte în serios.

„Marea majoritate a oamenilor de astăzi este în ignoranță a ceea ce suntem de fapt în pericol real“, - spune van Nedervelde. - „Deși este important să stai departe de zvonurile umflate și alarmismului excesive, faptele goale arată că suntem în mod clar și direct, sunt în pericol de moarte. Ce ar putea fi mai rău, dacă timpul vine furtuna perfecta, care va apărea pe baza riscului tot mai mare al existenței umane?“.

Dacă vrem să supraviețuiască în următorii câteva mii de ani, spun ei, avem nevoie în următoarele câteva decenii pentru a asigura siguranța maximă, pe care pur și simplu nu își pot permite.

Alege armele

Ca un fel de a trăi într-un univers indiferent, ne confruntăm cu atât riscurile cosmice și provocate de om, adică, poate fi ucis de mâna lui. Așa cum, într-adevăr, ar trebui să fie tipul nostru de civilizație care trăiesc pe un butoi cu pulbere sub formă de arme nucleare.

Potrivit lui van Nedervelde, riscurile cele mai grave includ actul de om pandemie bioterorist, schimbul global de bombe termonucleare, apariția superintelligence artificiale neprietenos și spectrul armelor de distrugere în masă bazate pe nanotehnologii.

„Amenințarea unui atac biologic, sau cancer de pandemie de om poate să apară într-un termen relativ scurt“, - spune el.

De fapt, numai recent, și anume în secolul 20, un precedent ne-a arătat cât de serioasă poate fi „doar“ o pandemie naturală: în 1918, gripa spaniolă a ucis între 50 și 100 de milioane de oameni. La acea vreme, era 2,5-5 la sută din populația lumii.

„Omenirea a dezvoltat tehnologia necesară pentru a dezvolta agenți patogeni eficace și eficiente“, - a declarat sursa Nedervelde van. - „Avem know-how-ul necesar pentru a optimiza și de a îmbunătăți potențialilor agenți patogeni dăunători. Astfel de arme pot distruge cu succes aproape întreaga omenire. "

În ceea ce privește formele viitoare preconizate de arme bazate pe nanotehnologie, nanomedicina teoretician Robert Freitas aduce diferența dintre „praf gri“, „plancton gri“, „lichenul gri“ și așa-numitele criminali de biomasă. Această variație de amenințare goo gri - un scenariu infernal, în care roboți moleculara automultiplicare consumă complet resursele Pământului, critice pentru supraviețuirea umană, cum ar fi atmosfera.

praf Gray ar putea bloca complet lumina soarelui. planctonului Gray ar putea fi cultivate de pe fundul mării, cu scopul de a mânca mediu bogat în carbon. lichenii gri ar putea distruge geologia terestre și biomasa asasin pot ataca diferite organisme.

În cele din urmă, după cum observă Barratt, există o amenințare de superintelligence artificiale. Timp de mai multe decenii, AI-ul poate depasi umane mai multe ordine de mărime. Și după apariția el poate lupta pentru supraviețuire, așa cum o facem, sau să fie prost programate. Va trebui să concureze cu un rival, care depășește capacitatea noastră de a scară pe care cu greu ne putem imagina.

Distrugând mai mult cu mai puțin

Un film de scurt metraj pe tema superioritatea inteligenței artificiale, a asigurat un loc de muncă la Hollywood la creatorul său.

Evident, multe dintre aceste tehnologii, dacă nu toate, vor fi dezvoltate ținând seama de investițiile enorme și resursele agențiilor guvernamentale și corporații majore. Dar acest lucru nu înseamnă că aceste lucruri nu vor fi desene ajunge în mâinile unui grupări adverse la minte, sau că ei înșiși nu se poate gândi așa.

„Undeva în inima mea încă mai păstrează portretele celor cinci baieti destepti din Somalia și alte țări subdezvoltate care văd o oportunitate de a schimba lumea. Pentru a transforma lumea cu susul în jos. aplicații militare de fabricație moleculară au un potențial mai mare de arme nucleare, și se pot schimba radical echilibrul de putere. "

Și, după cum a susținut de către Consiliul Național de Securitate al SUA, „suntem la risc nu numai de flote și armate, la fel ca înainte de tehnologii catastrofale în mâinile minorității amărât.“

În acest context, Van Nedervelde a vorbit despre „asimetrică distructivă putere» (capacitatea distructiva Asimetrica, ADC).

„Acest lucru înseamnă că, odată cu dezvoltarea tehnologiilor necesare mai puțin și mai puțin pentru a distruge tot mai mult“, - a spus el. - „Scara de distrugere devine mai probabil, a oferit o incomensurabil mici de resurse. Această asimetrie este în creștere exponențială, datorită NBIC ».

NBIC, după cum se explică prin van Nedervelde este efectele convergente ale patru sectoare tehnologice majore, și anume nanotehnologie (manipularea materiei la nivel molecular, inclusiv apariția unei materiale complet noi, produse farmaceutice și robotică), biotehnologie, tehnologia informației și științele cognitive.

Potrivit experților în dezvoltarea de nano-roboți, resursele necesare pentru a dezvolta și implementa nanoweapons de distrugere în masă, pot fi disponibile cât mai devreme 2040, plus sau minus 10 ani.

„Pentru a realiza acest lucru, un anumit grup mic care caută distrugere în masă vor fi necesare în urma resurselor relativ modeste: echipamente nanoproizvodstvennoe de lucru capabil să genereze semințe“ replibots „; patru mediocre nano-inginer, cu un doctorat; patru super computer; patru, și, eventual, mai puțin de luni să se dezvolte; patru puncte de dispersie, ținând cont de vânt la nivel mondial. "

Academic îl descrie ca fiind «ADC pe steroizi":

„În comparație cu tehnologia actuală, viitorul armelor nucleare Nanotech de distrugere în masă închis pentru centura ca un detaliu minor.“

distrugere în masă unică

Van Nedervelde a avertizat, de asemenea, de SIMAD, «masiv distructiv solitar» (Single Massively Individual distructiva).

„Dacă credeți că ADC este sfârșitul logic al concluziilor noastre, avem mai puține temeri cu privire la micile organizații teroriste precum Al-Qaida și cum ar fi faptul că, decât oamenii despre inteligente care dețin infracțiuni violente profunde asupra societății umane și a speciei umane“, - spune el a spus el.

Un exemplu foarte bun - Unabomber. Acum, imaginați-vă astfel de „Unabomber“ armate „știință pe steroizi“ tehnologii NBIC-avansate. O astfel de persoană va avea potențialul de a se răzbuna moartea și distrugerea pe scară largă: orașul, regiunea, continentul și, probabil, întreaga planetă.

«SIMAD - unul dintre riscurile care ma excita cel mai mult,“ - spune van Nedervelde. - „Eu nu pot dormi din cauza asta.“

Barratt a spus resurse, dacă o persoană poate crea singur o inteligență artificială masiv distructive.

„Nu cred că o persoană poate crea de fapt, AI suficient de puternic pentru a fi catastrofale“, - a spus el. - „software și hardware probleme în crearea unei inteligenței artificiale generale (AGI, OUI) și pe și superintelligence artificiale funcțional (ASI, ICI), amploarea și complexitatea abordării la Proiectul Manhattan pentru a construi bomba atomică (care a fost cheltuit în total, 26 de miliarde $) decât intuițiile „genialitate“ cum ar fi Tesla, Edison si Einstein. "

Barratt, de asemenea, îndoială că o echipă mică va fi capabil să-l pună în aplicare.

„Concurenții din această cursă buzunare adânci - IBM, Google, Blue Brain Project, DARPA, NSA. Mă îndoiesc că un mic grup poate face OUI, și cu siguranță nu în rândurile primul. "

Motivul, spune Barratt, este faptul că toți concurenții - mari, mici, invizibile și speriat - alimentate de cunoștințele pe care Oui în masă - sau inteligența umană la prețul unui calculator - va fi tehnologia cea mai profitabilă și revoluționară din istoria lumii. Imaginați-vă mii de bănci „creiere“ ale nivelului de doctorat, care rezolva problema cancerului, simula climatul și de a dezvolta arme.

„În cazul finanțării totale AIS pentru a obține răspunsul corect pentru amenințarea existențială“, - spune Barratt.

a spus Barratt că, în această cursă, mai ales pentru investitorii care sunt scara cea mai atractivă a realizărilor, care vor fi deschise, iar interesul principal în acest giganți corporative hrăni.

Din păcate, acest lucru nu exclude posibilitatea ca în cele din urmă grup terorist pernicioase va fi capabil să pună mâna pe o parte din codul sofisticat, adăugați setările necesare și apoi eliberați propria infrastructura digitală în lume. Să nu va fi apocaliptic în scară, dar încă mai pot fi devastatoare.

Există, de asemenea, posibilitatea ca echipa Sly sau individ cu ajutorul inteligenței artificiale elementare va fi capabil să dezvolte inteligenta mașină puternică. Cu ajutorul lui AI, care va face partea leului a lucrării, este foarte posibil. Sau pot exista și alte canale, în timp ce noi nu știm. Este posibil ca o echipă mică va fi capabil de a dezlega mâinile AIS, dar pentru o lungă perioadă de timp, mult timp.

autoapărare

Pentru a nu fi trist, ar trebui, de asemenea, vorbim despre măsuri preventive. Unul dintre modurile în care s-ar putea se proteja de aceste amenințări, este transformarea întregii societăți într-un stat polițienesc totalitar. Dar vrea aproape nimeni. Prin urmare, io9 a apelat la van Nedervelde și Barratt, pentru a afla ce altceva poți face.

„Vestea bună este că nu suntem lipsiți de apărare împotriva acestor complet amenințări“, - spune van Nedervelde. - „Măsuri de precauție, prevenire, avertizare timpurie și contramăsuri defensive eficiente sunt destul de posibil. Cele mai multe dintre ele nu sunt chiar „draconice“, dar poate oferi o vigilență constantă. "

Cercetătorul prezice observarea psihologică a persoanelor care demonstrează un comportament deviant consecvent și semnificativ în instituțiile de învățământ și alte.

„Este ceva ca un sistem imunitar psihologic la nivelul întregii umanități: monitorizarea constantă a SIMAD-Unabomber le ajuta să detecteze atunci când acestea sunt încă tineri, cu mult timp înainte de a începe să curețe planurile lor teribile. Pentru a pune capăt acest lucru, este necesar să se îmbunătățească în mod semnificativ observarea comportamentului oamenilor și sănătatea oamenilor în general. "

El crede, de asemenea, că guvernul mondial poate fi îmbunătățită în așa fel încât „organizații precum ONU și alte organizații multinaționale vor răspunde în mod eficient în mod corespunzător ori de câte ori amenințare existențială ridicǎ capul urât.“

De asemenea, cercetătorul crede că putem prevedea sau atac ADC SIMAD să le confrunte atunci când acestea apar. Pentru a se proteja de lupta nanotehnologiei, am putea implementa de urgență tip de apărare de ceață artificială, reflectoare solare, rachete de semnalizare și de radiații EMP-țintă.

În ceea ce privește protecția împotriva avem ascuns AI, Barratt a spus că organizațiile mici sunt mai puțin stabile și au nevoie de o supraveghere mai mult decât cele mai mari.

„Dar, apoi, din nou, este acum ANS cu 50 de miliarde de bugetul său negru este America, unde amenintare mai mare decat Al-Qaida, precum și orice alte persoane care doresc să achiziționeze AIS. Noi instinctiv știm că ei vor fi mai puțin neliniștită cu OUI, în cazul în care ajunge primul la el ".

Barratt oferă două opțiuni, care poate închide lacunele de securitate:

„Crearea unui parteneriat public-privat la nivel mondial ar putea reduce efectivul cu ambiția de a crea OUI, ceva de genul Agenției Internaționale pentru Energie Atomică (AIEA). În timp ce organizația va crea, ai nevoie pentru a forma un consorțiu cu buzunare adânci, care va angaja lumi lider cercetatori domeniul de aplicare al inteligenței artificiale generale. Pentru a le convinge de pericolele de dezvoltare nelimitată a AIS și a le ajuta să meargă pe drumul nostru cu cea mai mare prudență. Sau compensa refuzul lor de a visul de a crea OUI“.

supravegherea totală

O mai radicală Van Nedervelde a propus ideea de „patru E»: Toată lumea are ochi și urechi de Pretutindeni ( «toată lumea are ochi și urechi peste tot"), care ar putea deveni o realitate cu un alt acronim: panoptice inteligent de praf Sousveillance (DPRP, «monitorizare transparent de praf inteligent“ ).

„Astăzi,“ praf inteligent „se referă la o mici MEMS-dispozitive numite“ motes „măsurată de un milimetru cub sau mai puțin și capabil de detectare autonomă, de calcul și de comunicații într-o rețea de tip mesh ad-hoc fără fir“, - a explicat el. - „În viitorul nu foarte îndepărtat de praf inteligent poate fi literalmente praf cu dimensiuni de 50 microni cubi sau mai puțin, capabil să plutească în aer, ca un praf obișnuit, și de a crea nor mobil inteligent cu alimentat cu energie solara.“

Cercetătorul este ca partea de jos a atmosferei Pământului apar particule de praf inteligente, cu o densitate medie de trei particule de praf pe metru cub de aer. Implementat eficient, acest praf ar putea da fiecărui cetățean ochii și urechile lor, oferind o „responsabilitate inversă“ în societatea civilizată.

„Dacă presupunem că cele mai multe dintre observațiile făcute nu sunt oameni și mașini, ascutita de anumite modele, acest lucru va fi cu siguranță la sfârșitul a ceea ce eu numesc“ confidențialitate absolută „- dar rămâne încă mult loc pentru“ viața privată relativă ". Și asta a pus exact capăt tuturor SIMAD, atacuri teroriste, la sfârșitul violenței și a altor forme de violență împotriva copiilor, femeilor, persoanelor în vârstă, peste tot și peste tot. "

Cel mai probabil acesta va furniza, de asemenea, un impas cele mai multe forme de corupție și alte infracțiuni. Va fi posibil să se creeze aspectul final a ceea ce David Brin a descris ca fiind „societate transparentă“ sau futuriste etică Dzhamais Casco - „vsevideniem publică“.

„Am găsit în cele din urmă răspunsul la întrebarea Juvenal în timpul antichității romane :?«Quis custodiet custodes Ipsos», care cauta ingrijitori“ - spune van Nedervelde. - „Și răspunsul este: noi, oamenii, cetățenii înșiși - că este necesar, în opinia mea.“

Poate un om să distrugă lumea? Ilia Khel