Пътуване с мощност

The Ender

Новите пробиви в редактирането на гени ще доведат до невероятни награди - и рискове, които едва можем да обмислим

Илюстрация: Даниел Зендер

Това е последната част от „Приватизация на Апокалипсис“, есе от четири части, публикувано през целия октомври. Прочетете предишните вноски тук - Част 1: „Убийството 50/50“, Част 2: „Възпиране - и непоносимото“ и Част 3: „Смъртоносна хазартна игра на Super A.I.“

Вредният щам на грип H5N1 започна да убива хората през 2003 г. Той се нарежда сред най-смъртоносните вируси в историята. Но един от братовчедите му е много по-известен. Популярно известен като свински грип, този братовчед също с основание се страхува. Но в най-лошия случай H5N1 има три хиляди пъти по-голяма вероятност да убие тези, които заразява. Не с три хиляди процента повече (което би било много лошо), но три хиляди пъти повече.

Световната здравна организация показа, че този щам убива опустошителните 60 процента от тези, които поразява. Това е по-смъртоносно от Ебола и почти всички ракови заболявания. И разбира се, много повече (технически термин) от свинския грип, което причинява почти гениална смъртност от едва 0,02 процента. Но за всички свои предимства, H5N1 има една черта, мисля, че всички можем да изостанем: Той не е много заразен сред хората.

Извън лабораторията, т.е.

И все пак, това е така.

Преносимостта на грипния щам, т.е. способността му лесно да се движи от човек на човек, се крие в неговите гени. През 2011 г. изследователи от Уисконсин и Холандия погледнаха трудно относително неинфекциозния H5N1 геном и (поради липса на по-добра дума) го поправиха. Това им даде мутантни H5N1 щамове, които са малко смъртоносни като оригиналния аромат - но също така силно заразни. Като, смей да го имаш всичко!

Ръката на почитаното списание Science каза, че напрежение като това може да "промени световната история, ако бъде освободено", като предизвика пандемия "съвсем вероятно с много милиони смъртни случаи". Пол Кеим каза: „Не мога да се сетя за друг патогенен организъм, който е толкова страшен като този.“ Той добави: „Не мисля, че антраксът е страшен изобщо в сравнение с този.“ И ще добавя, че Кеим е експерт по антракс.

Има оптимистичен начин за гледане на това и нека започнем от там. Създаването на тази мерзост беше ново начинание. Само няколко експерти в добре оборудваните лаборатории можеха да го изтеглят през 2011 г. Тези, които го направиха, бяха кариерни вирусолози, чиято работа включва предотвратяване, а не причиняване на огнища. Най-важното е, че те просто създават малък брой силно секвестирани микроби. Макар и такива, които биха могли да убият в мащаба на световна война в случай на бу-бу.

Сега, за другия изглед. Всяка вариация на грипа също е малък файл с данни. Геномът на H5N1 съдържа по-малко букви от това есе (от азбука от само четири букви). Неговата версия за ванилия е широко разпространена. И промените в писмото, необходими за получаването на най-смъртоносния мутант на дизайнера, със сигурност ще се поберат на лист хартия. Вероятно бележка след него.

Първата евентуална атака на Ендер ще бъде безпрецедентна като 9/11. Единственият начин да го ограничите е да го предпазите да не е еднакво неочакван.

Това е много oomph за многото данни. И разгръщането на спящата ярост не би изисквало изваждане на епруветки от лабораториите му на произход. Всичко, от което се нуждаете, е краткият списък с генетични промени. Точна рецепта е за пресъздаване на вируса навсякъде. Нивото на обучение и специализирана екипировка, което това би изисквало, е обезсърчаващо. За сега. Но също така засипва. Тя ще продължи да пада, все по-бързо и по-бързо. По този начин броят на хората, способни да преобразуват обикновени данни в смъртоносни патогени.

Този скок има близък прецедент, който по-рано отбелязах, че самотните лабораторни технологии вече могат да надхвърлят продукцията на 13-годишния проект за човешкия геном (HGP) само с часове усилия. Сгъстяването на бюджета също е крайно, като варира от три милиона до един от 2003 г. (HGP струва приблизително 3 милиарда долара, докато продукцията на лабораторните технологии ще ви струва около хиляда долара). Макар и поразителен, това предишно развитие не е вътрешно заплашително. В основата на HGP технологията е за четене на генетичен код. Докато въоръжаването на нещо като грип изисква редактирането му.

Това е различен трик. По-труден също. Но както по-рано се случи с четенето на генома, инструментите за генетично редактиране крещят през бързо напред ренесанс. Днешният най-добър метод за редактиране дори не е съществувал, когато тези страхотни грипни щамове са били приготвени през 2011 г. Той се нарича CRISPR и може да бъде преобразуващ за редактирането на гените, докато пускат реактивни двигатели.

CRISPR вече се е разпространил в далечните покрайнини на академичната наука. Стотици колежи и дори гимназиални екипи се събират ежегодно за биоинженерно джамборе, наречено iGEM, което разпространява отворен каталог от десетки инструменти, базирани на CRISPR - всички те са създадени от други студенти. iGEM ​​е наистина вдъхновяващо събитие. Тя привлича хиляди млади умове, които имат огромен потенциал да помогнат на човечеството. Той също така ни показва колко бързо и широко пробивите на синбио ще се разпространяват, докато продължава появата на мълния в полето.

Това прави немислимо, че тесните и доверени елити ще запазят изключителна власт над всеки елемент на синбио - включително мрачното изкуство да се правят чудовищни ​​патогени, като хак от грип от 2011 г. В крайна сметка това не са блестящи актове на създаване на сурови материали, а само тесни. Онеми, активирани от непрекъснато подобряващи се инструменти, чиито подобрения бързо стават повсеместни.

Природата извърши всички тежки повдигания, като създаде зловещи начални точки като грип, ебола, антракс и менингит. Лабораториите съхраняват цели зоологически градини на тези същества от десетилетия и техните внимателно анотирани генетични кодове са достъпни в световен мащаб за всеки. Удобни връзки към десетки от тях можете да намерите тук (сред безброй други места).

Неизброените хиляди турбо-заредени патогени в крайна сметка ще бъдат проектирани по редица причини. Някои от тях ще бъдат тезови проекти. Други ще бъдат странични продукти от медицински изследвания. Много от тях ще са ръчната работа на белите омрази добри момчета, опитвайки се да останат пред лошите (една от много причини, поради която iGEM е похвално начинание). Някои от тях ще бъдат проектирани като каскади за привличане на вниманието.

Много от тези смъртоносни рецепти ще бъдат строго контролирани. Всъщност повечето от тях никога не могат да избягат от дигиталните сводове на своите създатели. Но малките файлове с данни с голямо последствие имат начини за разпространение. Много задълбочени финансови и държавни тайни са хакнати през всеки един месец. И не е смела научнофантастична прогноза, която да прогнозира, че в био лабораториите в училищата няма да има защита дори от смехотворни смеси като Equifax.

Не всички ще се опитат да запазят творенията си в тайна. Публикуването на геном със степен на пандемия в Reddit може да бъде нечий начин да даде пръст на света. Техно-анархистът може да го разглежда като възвишен морален акт. Или може да е гол опит на нихилиста да предизвика действителна чума. И след като тези файлове са в природата, те ще останат там. Помолете всяко филмово студио да се постарае, за да подчертае пиратството на неговия каталог. Програмите на злокачествените геноми неизбежно ще преминат през Тъмната мрежа заедно с детското порно, предлагането на наркотици и терористичните бъбриви. И когато се появят, те ще бъдат антологизирани, разменяни и съхранявани широко.

Засега не съществуват прости генетични принтери - и нито един апарат с никаква сложност не може да изтласка геномите с дължина на вируса от нулата. Но това ще се промени. Подобно на изчислителните процеси, геномиката и синбиото се движат с експоненциални криви на подобрение. Поне един е дори по-стръмен от този на Закона на Мур, който известно проследява повишаването на производителността при изчисляването. Ето защо днешните секвенъри с размер на копирни машини надхвърлят проекта на човешкия геном, който за 13 години заема хиляди учени (и декари с тромава предавка). До 2038 г. бюджетните синтезатори на ДНК ще изтръгнат чудесата, които днес цялото поле на синбио не би могло да си представи. И може да изискват едва ли повече технически умения от натискането на бутона за печат.

Ричард Престън каза веднъж: „Основното нещо, което стои между човешкия вид и създаването на супервирус, е чувството за отговорност сред отделните биолози.“ Това почти сигурно беше добре през 2011 г., когато съответните хора бяха уважавани вирусолози. (Това каза, ФБР заключи, че армейски изследовател на биозащита е извършил атаки от антракс през 2001 г., така че никога не знаете.)

Нещата ще станат по-малко стабилни, когато най-елитните студенти по природни науки в света влязат в пула от потенциални създатели на супервируси. Очевидно тази група не е известна със своя кръвен поток. Въпреки това, един от най-известните масови убийци от десетилетието някога е принадлежал към него. И в крайна сметка друг почти сигурно ще го направи. Защото с течение на времето и една общност се разраства, шансовете на някой от нея да направи нещо странно ужасно преминават от тънък, висок, до почти сигурен.

Пропълзявайки по-нататък по академичната стълбица, студентите преди медицина все още са много по-многобройни и със сигурност е известно, че понякога слизат от релсите. А тихите, умопомрачителни деца от гимназията може би са една от най-смъртоносните демографски данни в Америка. Техниките на Synbio постепенно ще се разпространяват в цялата медицина. Това правилно почитано поле донесе много повече полза, отколкото вреда на повечето от нас. Британският медицински журнал също така отбелязва, че „медицината вероятно е хвърлила повече серийни убийци, отколкото всички останали професии, взети заедно, с кърмене близо секунда“.

Предишното есе в тази поредица аргументира най-вероятните виновници в супер А.И. криза ще бъдат самодоволни екипи от елити, които взимат преки пътища, докато гонят печалби. Но що се отнася до риска от синбио, самотните самоубийствени масови убийци ме тревожат повече. Всяка година мъничка част от хората търсят собствената си смърт в акта на клане на колкото се може повече случайни жертви, като второто есе от тази поредица обсъжда задълбочено. Рядко спират, докато сами не умрат. И така, трябва рационално да приемем, че поне някои от тях биха убили всеки последен от нас, ако само можеха.

Или - ако изобщо могат.

Трябва ли да се прехвърли такъв ужасен изход изобщо, какво бихме могли да наречем нашия унищожител? В обмен на имейл с мен за това есе, Naval Ravikant измисли термина The Ender, който считам за предизвикателен. Някои от хората, които стоят близо до ежедневните масови стрелби в Америка, вероятно са в сърцето на Ендерс. Но никой няма дистанционно пукнатина при сваляне на завесите на човечеството. Засега го правят само онези, които командват огромни ядрени арсенали. И те ще запазят мрачния си монопол известно време.

Но не завинаги. Да, рискът от инженерна пандемия в момента е малък. Някои може да поставят шансовете ни да избегнем катастрофа на север от 99,9 процента през следващото десетилетие. И вероятно биха били прави. Но нещата от десетилетия са, че те са последвани от още десетилетия. И след това от половин векове и т.н. Ако се случи убийство в гига, точната му година ще бъде маловажен аспект на трагедия без прецедент. Онези, които днес се подиграват със страховете или предпазните мерки, основаващи се на точни прогнози за тихо ранно десетилетие или две, няма да бъдат възхвалявани като древни герои.

Разбира се, това е идеално и облекчаващо, че досега няма синбиологичен тероризъм. Но това има нулева прогнозна значимост. Myspace доминираше в социалните медии до 2008 г. И Myspace беше почти толкова гениален, колкото братството, приспадено от кока на студенти от C-минус. Кой си представяше, че наследникът му скоро ще бъде обвинен в отвличане на големи избори? Ако вдигате ръка, моля, спуснете я, защото не заблуждавате никого.

Експертите, с които обсъждах това, смятат, че е почти невъзможно някоя пандемия да се доближи до изтриването ни. Защитата на обществото срещу пандемии е несъизмеримо по-добра, отколкото когато настъпи Черната смърт или когато испанският грип уби до 6 процента от всички хора. Но това може да бъде сериозно компенсирано от намерението и злонамерения дизайн. За всичките си грешки испанският грип не ни причини лоша воля. Освен това сляпата еволюция не я натрапва с хитри модификации, които да увеличат смъртността, неясното откриване, да направят инкубационните периоди максимално смъртоносни и т.н. И нека не забравяме, че множество патогенни демони могат да бъдат освободени наведнъж.

Следователно трябва да сме бдителни към потенциалните злоупотреби с невероятните инструменти, с които синбио започва да ни благославя. Това означава, че добрите хора трябва да започнат да мислят като Ендера сега - да не би някога в действителност да има Ендер - защото един провален Ендер може да деформира човешката история, без да постигне нещо, близко до пълно унищожение.

Малко държави запазват устойчивостта, която някога ни помогна да се справим с широко разпространената смърт (помислете как ще протече, ако заболелите случаи преплуват капацитета на местната болница с фактор стотици). Също така, помислете за годините на кръвопролития и общо унижение, които последваха 2977 убийства от 11 септември. Пич от нападение на Wannabe Ender може да бъде хиляди пъти по-смъртоносен от това. Кой знае каква тежка вреда бихме могли да нанесем сами след това?

Но какво би могло да мотивира wannabe Ender? Онези от нас, които не могат да разберат мнението на яростните убийци, може да са зле подготвени да отговорят на това. Но мотивациите може да не се ограничават до криминално безумие. Системите за ненасилствени вярвания често се изкривяват, за да насърчават масовите убийства. Не можем да изключим някой ден да бъде отвлечен, за да спечели пълното човешко унищожение.

Помислете за призрачните антинаталисти, които твърдят, че животът е толкова ужасен, че е неморално да вкарате още хора в света. Може ли една издънка фракция да заключи, че би било високо морално действие да се изтребят видовете? Движението за доброволно изчезване на хора - чийто план за възстановяване на биосферата трябва да бъде очевиден - може също да породи Задължителна фракция.

Това може да звучи нагледно, но тъй като самоубийственото масово убийство се нормализира, то бързи вози по причини и мотиви, които биха били немислими наскоро. Някои така наречени инцели виждат, че не успяват да получат шума като просто причина за масово клане. Мърморен данъкоплатец приключи всичко това, докато щракнеше на IRS. Непълнолетен YouTuber излязъл да взриви служителите на услугата, че достави по-малко внимание и рекламни долари, отколкото тя жадува. И така нататък.

Дори самоубийствените атаки на джихади не бяха чути назад, когато Америка претърпя хиляди бомбардировки годишно (да, наистина) в началото на 70-те. Тези атаки бяха извършени от домашни групи, които най-вече се стремяха да не наранят никого (това бяха хипи терористи, вижте). Самоубийствените атентати придобиха първия си оскъден крак в огромния мюсюлмански свят през 80-те. Отначало това беше ограничено до ливанските милиции, обвързани с исляма Ши, който се свързва с концепцията за мъченичеството по дълбоки и уникални начини.

Новата практика отне много години, за да скочи в по-големия сунитски свят. Той дори не е приет от съседни палестински групировки, които дотогава са регистрирали десетилетия въоръжен конфликт. Първите четиридесет години в Израел минаха с много насилие, но нито един самоубийствен атентат на нейна територия. Но заразата в крайна сметка скочи - и през първата половина на десетилетието на хилядолетието имаше 129 такива атаки в границите на Израел и в окупираните територии, по същество всички извършени от палестинските сунити.

Това показва, че исторически немислимото може бързо да стане твърде обичайно. А насилствените действия - подобно на жаргон, дължина на полата и автоматична настройка - могат да бъдат модерни. Самоубийственият масов убиец е мем с инерция. А някои от неговите практикуващи са сърцето на Ендерс. Но Wannabe Enders, които купуват уреди за масови убийства на дребно, е трудно да се разграничат от убийствата на мълчание от бягането. Така че не знаем колко често е мисленето на Ендер.

Безупречният подпис на евентуалния Ендер ще бъде атака, използваща силно смъртоносна, ненатрапчива технология. Това ще бъде единствено събитие (до появата на копията). И аз вярвам, че ще включва синбио.

Постепенният, очевиден удар на по-малки инциденти, предхождащ синцибиален катаклизъм, може да предизвика информираност и противодействие. Но такъв модел е малко вероятно. Първата синбио атака ще се случи, когато wannabe Ender влезе в групата на хората, които са способни да извършат такава. Хората с мислене на Ендер вероятно са доста редки. Така че това няма да се случи изобщо - докато не се случи всичко наведнъж.

В очакване на това забраната на технологиите би била безсмислена. Преди всичко би било почти неприложимо (припомнете си, че лабораториите за незаконни наркотици са както незаконни, така и повсеместни). И в най-ефективната си степен това би дало на мошениците и злите актьори монопол върху апокалиптичните изкуства. Това не е начин да се предотврати катастрофа.

Първата евентуална атака на Ендер ще бъде безпрецедентна като 9/11. Единственият начин да го ограничите е да го предпазите да не е еднакво неочакван. Нашите защитници активираха 9/11, като изпаднаха в катастрофална липса на въображение. Не е липса на предвидливост (летищата са били насочени да откриват и предотвратяват отвличанията от началото на 70-те години). Не липса на бюджет (в крайна сметка похарчихме трилиони в реакция на 11 септември). И със сигурност не липсва предупредителни табели. Но дефицитът на въображение беше изумителен.

Само да предположим, че една стая от аналитици на разузнаването беше извикана на сесия за мозъчна атака сутринта на 10 септември 2001 г. Казаха им да разберат как терористите могат да съборят небостъргач само с няколко остри предмета. Да предположим, че те са всяка блестяща и настоятелно да мислят добре извън кутията. И че те са много разнообразни, представляващи широк спектър от етнически и религиозни перспективи. Колко време щяха да отнемат, за да разрешат пъзела?

Спомнете си, че докато планиращите 11 септември бяха много неща, те не бяха гении. Освен това, че те възложиха своя гениален план на екип от посредствености - повечето от които бяха твърде мрачни, за да осъзнаят, че са на самоубийствена мисия. Това бяха скарани мъже със средна височина около 5 6 ”, които едва можеха да се ориентират в извънземната страна, в която оперираха.

И така: колко време трябва да отнеме на нашите брилянтни анализатори, за да се ударят в най-лошия случай на група, която тази власт има? Възможно ли е да отнеме до обяд? Или дори първата им пауза за кафе? Съмнявам се, че щеше да им отнеме дори час, невъзможно, въпреки че е доказано. От това стигам до извода, че хората от тяхната глезотия рядко са били помолени да използват дори една част от въображението си.

И така, какво да правим за предстоящия сблъсък на мисленето на Ender със synbio и може би с други технологии?

Това всъщност е рядък случай, в който би било много продуктивно да се изроди. Като, много.

На открито трябва да си разказваме ужасяващи истории и да губим много сън. В рамките на строго секретни конферентни зали, междувременно трябва да помолим някои от нашите най-блестящи и изкривени граждани да помислят трудно за нискобюджетните, дяволски действия, преди да искат Ендерс да ги измисли. Тогава трябва да направим тези действия почти невъзможни. Или най-малкото, напълно изненадващо.

Всъщност сме доста добри в това. Изправени пред перспективата за унищожаване на ядрената енергия, ние от години изплашихме. Разказвахме си призрачни истории с имена като д-р Стрейнджълв, На плажа, Неуспешен провал и Военни игри. Междувременно бяха разказани много по-страшни приказки на строги тайни конференции и в класифицирани брифинги. Тогава, когато удари кубинската ракетна криза, пушачите на веригата в онези военни стаи в Москва и Вашингтон нямаше нужда да използват въображението си нито една йота. Голяма част от въображението им вече беше направено за тях - и изходът му беше записан в самите им неврони. Те знаеха точно за какво става въпрос. И така човечеството оцеля.

Джордж Оруел изплаши на друг фронт, през 1948 г. Преследван от предчувствия за съвременния тоталитаризъм, той завъртя ужасяваща прежда, наречена 1984 г. Това накара голяма част от световната интелигенция от романтизиране на сталинизма. Дийн Ачесън и други водещи политици също изпаднаха в паника по много продуктивни начини. Имаше много ексцесии, с които никой не бива да се гордее. Но в крайна сметка СССР изчезна, без да стреля - и това беше далеч по-добро от най-добрия случай, който всеки реалист някога размишляваше.

Има безброй други примери. Например, можете да се смеете всичко, което искате от франчайза на Terminator. Но въпреки че няма да изключи супер A.I. криза, много по-малко вероятно е някой да ни хване напълно неразбран. Това е извънземно нашествие (макар че човек се нарежда близо до вампири и върколаци по скалата на вероятността).

Ако 1% от бюджета ни за разузнаване беше отишъл в нечестиви, креативни мисли, преди Осама бин Ладен да ги измисли, хокейният отбор в средното училище би могъл да потупа негодния екипаж, преди да стигнат до летателното училище. И така, отново: не можем да оставим въображението ни да ни провали отново. Което означава, че се нуждаем от еквивалента на тази контрафактна стая на анализаторите на 10 септември.

Само ние се нуждаем от армии от тях. И ние се нуждаем от тях за случая през цялата им кариера, а не само за една сутрин. Трябва да им платим добре, за да работят дълги часове, и да заливаме офисите им с кафе, пица, бира, плевел, киселина и може би дори отрова от жаба. И имаме нужда от самоорганизиращи се доброволци. Хората да разказват най-различни призрачни истории, които могат да обединят антителата на обществото, преди да се случи нещо смъртоносно. И проактивни хора, които могат да забележат фини вратички за сигурност на работните си места или ежедневието си, преди да може Wannabe Ender.

Амбициозните Ендери, за които наистина ще трябва да се тревожим, имат определени страшни предимства. Те живеят поне няколко десетилетия в бъдещето, така че знаят много неща, които ние не знаем. Те се подхранват от омраза и обиди, които не можем да разберем, което тласка въображението им в извънземни посоки. Те вероятно са по-интелигентни средно от нас. Плюс това, те са изцяло ангажирани и наистина безмилостни.

Но ние ги превъзхождаме значително. Ние сме свързани, докато те са изолирани. И можем да започнем да мислим за това сега - може би преди най-опасните бъдещи Ендерс дори да се родят.

Като романист няма как да не свърша с малко сюжет. Това е това: аз съм неумолим оптимист. Гранична патологична. Виждам толкова много лъчезарен потенциал в synbio, A.I. и други нововъзникващи технологии, че на практика изгаря ретините ми. Прекарах последната година в обсъждане на тези теми с десетки блестящи учени и основатели и съм убеден, че ако оправим нещата, човечеството е изправено пред ослепително бъдеще.

Антинаталистите всъщност го имат назад. Разрешаването на апокалипсис на часовника ни би било катаклизматичен морален фалшив за наследниците ни, защото те вероятно ще го имат толкова проклета благо (да, въпреки че вероятно ще хленчат толкова, колкото и ние - което е досадно - но това са хората за теб). Ако се съмнявате в това, сравнете собствената си партида с тази на всеки, който живее в мрачните векове, включително включените потенциали и роялти. С всеки измерим калибър на процъфтяването на хората, вековете стават все по-неприятни, когато се оттегляте в миналото.

Но за щастие за нас, технологиите се трупаха безмилостно през тези много векове. Технология, която сега предотвратява болести, генерира калории, трансформира материята, транспортира всичко, разпространява знания и т.н.

Някои могат да кажат, че предпазните мерки са скъпи и няма ли да изглеждаме тъпи, ако се окажат ненужни? Но се чувстваме благодарни, а не глупави, когато нашите доставчици на противопожарна застраховка не изпращат чекове до печи в домовете ни. Не се дразним, че сме пропили някои моменти, закопчавайки предпазен колан, когато пътуването приключи безопасно. И ниските проценти на катастрофа на самолета не обезсилват разходите за авиационна безопасност - те го отмъщават.

Човечеството може или не може да бъде изправено пред дълго бъдеще. Ако това стане, това бъдеще ще бъде оформено и дефинирано от неоткрити технологии, които не можем да предскажем. Това е вълнуващо като ад! Но това изисква голямо смирение и благоразумие. Защото, ако има дълго бъдеще, си струва да стигнем.