hoofdmenu
Sigers Weblog

none yet

Het mogelijk einde van de wereld

16 october 2013


T

ussen de recente stortvloed aan eindtijdvoorspellingen bevinden zich enkele waarschuwingen van prominente wetenschappers, waar we wél beter aandacht aan zouden besteden. Klassiek is het Einstein-Russell Manifesto uit 1955, waarrond tal van wetenschappers zich schaarden:

"We moeten onszelf niet langer afvragen welke stappen een militaire overwinning zullen brengen, want zulke stappen bestaan niet meer; de vraag die we onszelf moeten stellen is: welke stappen moeten we nemen om een militaire strijd te vermijden waarvan de uitkomst een ramp is voor alle partijen? [...] Het probleem dat we u voorleggen is het volgende: zullen we een eind maken aan de menselijke soort, of zullen we oorlog afwijzen? "

Bijna een halve eeuw later, aan het begin van de 21e eeuw, verscheen in Wired magazine een artikel van Bill Joy, een medeoprichter van SUN Microsystems wiens ideeën en uitvindingen tot de ruggegraat van de hedendaagse informatica en het internet zijn gaan horen. Tijdens een Telcosm conferentie waar Joy als spreker uitgenodigd was, ontmoette hij Ray Kurzweil en John Searle, en er ontwikkelde zich een gesprek in de hotelbar waar hij een paar slapeloze nachten aan overhield. Met ontzetting besefte Joy dat de technologie waar hij zijn hele leven aan gewijd had de mens spoorslags aan het inhalen is, en dat nog voor het einde van de 21e eeuw de mens deze wedren zal verliezen. In een artikel (Waarom de toekomst ons niet nodig heeft) verwijt hij hedendaagse wetenschappers zich te laten meeslepen naar altijd nieuwe ontdekkingen en technieken zonder stil te staan bij mogelijke gevolgen. We zijn geneigd vernieuwingen te snel te vertrouwen en onvoorwaardelijk te aanvaarden. Gewend aan steeds nieuwe wetenschappelijke doorbraken bemerken we te weinig dat de meest opvallende opkomende technologieën een heel nieuw soort dreiging vormen, veel groter dan de dreiging waar Einstein en Russell voor waarschuwden. Joy gelooft dat we aan het begin staan van de perfectie van het extreme kwaad, en dat de verschrikkelijke technologische vernietigingsmacht niet langer in de handen van een of andere natiestaat zal liggen, maar in de handen van een of enkele extremisten of gewoon hackers - als ze al niet volledig aan menselijke handen onttrokken zal zijn.

§

Enkele jaren later publiceerde Sir Martin Rees, astrofysicus te Cambridge en voorzitter van de Royal Society, zijn mening hierover in “Our Final Century”, een boek dat in de VS, waar alles wat sneller moet, herdoopt werd tot “Our Final Hour”. Rees somt alle rampen op die ervoor zouden kunnen zorgen dat onze beschaving uitsterft in deze eeuw. Behalve klimaat, meteoren etc... verrekent hij ook de technologische risico's die Bill Joy aankaart, maar hij is (wat heet...) optimistischer: alle rampen bij elkaar heeft de mensheid volgens Rees 50% kans deze eeuw te overleven. Daarmee heeft hij niet beweerd dat er 50% kans is dat er géén rampen zullen zijn. In 2002 registreerde hij op Long Bets de weddenschap dat nog voor het jaar 2020 één enkele terreuraanslag (of ongelukje: "error or terror") meer dan 1 miljoen doden zal maken.

Het is gebleken dat wetenschappelijke ontwikkelingen steeds sneller vorderen. Soms lijkt het einde in zicht, maar dan volgt weer een doorbraak die alle voorgaanden in de schaduw stelt. Ook de snelheid waarmee innovaties plaatsvinden neemt toe. In de twintigste eeuw was het voor de eerste keer in de wereldgeschiedenis mogelijk het leven op aarde uit te roeien, maar zo'n armageddon vergde enorme inspanningen van superstaten. Naargelang de wetenschap vordert zijn er minder middelen en mensen vereist. Zo protesteerden Bill Joy en Ray Kurzweil in een gezamenlijke brief aan de New York Times tegen het openbaar maken op het internet van het genoom van dodelijke virussen zoals het vogelgriep virus dat in 1918 40 miljoen slachtoffers maakte.

Er zijn bedrijven waar je delen van DNA-stringen op maat kan bestellen. New Scientist berichtte over een onderzoeksteam dat er in slaagde op die manier een heus polio-virus uit stukjes samen te stellen:

Het lijkt heel wat, maar dit was geen tour de force. Al de nodige stappen zijn bekend in duizenden laboratoria wereldwijd. Wie voldoende kennis heeft over de sequentie van een virus, een beetje wetenschappelijke training en een paar doordeweekse gereedschappen, kan een dodelijk virus - ebola, vogelgriep, polio - maken in een proefbuisje.

In een vroeger blog wees Tsunami al op de ontwikkeling van autonome gevechtsdrones. Op nano-schaal kan hetzelfde plaatsvinden, maar oneindig veel krachtiger. Vandaag bedenkt men "molecular assemblers" of "nanobots" die (levende) molecules met atomaire precisie kunnen wijzigen. Deze nanobots zijn zelf-replicerend met geen andere grens dan de beschikbaarheid van levend materiaal, en ze zoeken zelf hun doel. Door een foutje in hun ontwerp (al dan niet met opzet gemaakt) kunnen ze alle leven op aarde vernietigen binnen enkele dagen.

Wat te doen?

Als de dreiging reëel is - en ik denk dat ze dat is - zijn er maar drie mogelijkheden: ten eerste, niets doen en alles zijn "natuurlijke gang" laten gaan; ten tweede, onderzoeksresultaten die misbruikt kunnen worden geheimhouden; en ten derde, gevaarlijk onderzoek stilleggen tot de risico's zijn weggenomen.

Niets doen, de eerste optie, is het hoofd in het zand steken, want dan financieren we het onderzoek verder en zijn we er bij betrokken, ook als het slecht afloopt, of we dat willen weten of niet. Geheimhouding, de tweede optie, is niet haalbaar: er zijn zoveel instituten en mensen betrokken bij de nieuwe technologieën dat er vroeg of laat lekken of een zwarte handel moeten ontstaan. Of een van de medewerkers bekeert zich tot een terroristische groep of, even waarschijnlijk, hele instituten vallen in de handen van een kwaadwilligen, door economische overname of door politieke machtswisselingen. Geheimhouding is in elk geval geen remedie tegen menselijke fouten, die even grote gevolgen kunnen hebben als een aanslag. Bovendien zou bij geheimhouding alle kennis samenkomen in handen van een technocratische, onvermijdelijk autoritaire elite, die hele legers veiligheidsagenten toegewezen moet krijgen. Kennis in de handen van een ongecontroleerde minderheid is altijd gevaarlijk. In elk geval is zulke geheimhouding het einde van de open democratie en het begin van een harde politiestaat.

Rest enkel de mogelijkheid gevaarlijk wetenschappelijk onderzoek stop te zetten. Dit is een uitdaging voor de democratie die deze beslissingen moet nemen en opvolgen. Alleen een democratie heeft het morele recht de wetenschap te temperen waar nodig en aan te sporen waar nuttig.

We leven in een tijd van wetenschappelijke overmoed. Te weinig mensen bewaren een kritische houding in het licht van de wetenschappelijke zegeningen die over ons uitgestrooid worden.Daarvoor zijn ontwikkelde, geïnformeerde en kritische burgers nodig, maar dat was al ook zo met nucleaire, chemische en biologische wapens en oorlogvoering, en met het klimaat, het milieu, Big Pharma enzovoort. Op dat punt heeft de moderne democratie heel wat in te halen. De wereld lijkt verdeeld in wie de wetenschap verwerpen en wie de wetenschap verheerlijken. Er zijn bitter weinig kritische volgers. Nochtans laat het zich aanzien dat het van hen afhangt, of we de tweeëntwintigste eeuw halen.




Bronnen:
Why the future doesn't need us - Bill Joy
Sir Martin Rees: Prophet of doom?
Ebola virus could be synthesised
Nanotechnology Dangers and Defenses - Ray Kurzweil
Martin Rees' bet at Long Bets.



Tags: actueel, ethiek, pacifisme, samenleving, wetenschap

Zie ook het archief