Mohli vojáci ovládat zbraně svými mozky?

Tento článek byl původně uveden na The Conversation.

Představte si, že vojákovi vstříkne do krevního oběhu maličké počítačové zařízení, které lze pomocí magnetu navést do konkrétních oblastí jeho mozku. Díky výcviku mohl voják ovládat zbraňové systémy vzdálené tisíce tisíc pouze pomocí svých myšlenek. Zabudování podobného typu počítače do mozku vojáka by mohlo potlačit jeho strach a úzkost a umožnit mu efektivněji plnit bojové mise. Když půjdeme ještě o krok dále, zařízení vybavené systémem umělé inteligence by mohlo přímo řídit chování vojáka tím, že předpovídá, jaké možnosti by ve své aktuální situaci zvolili.

I když tyto příklady mohou znít jako sci-fi, věda o vývoji neurotechnologií, jako jsou tyto, je již ve vývoji. Rozhraní mozek-počítač neboli BCI jsou technologie, které dekódují a přenášejí mozkové signály do externího zařízení, aby provedly požadovanou akci. Uživatel by v podstatě musel jen přemýšlet o tom, co chce dělat, a počítač by to udělal za něj.

BCI jsou v současné době testovány u lidí se závažnými neuromuskulárními poruchami, aby jim pomohly obnovit každodenní funkce, jako je komunikace a mobilita. Pacienti mohou například zapnout spínač světla vizualizací akce a nechat BCI dekódovat jejich mozkové signály a přenést je do spínače. Podobně se pacienti mohou zaměřit na konkrétní písmena, slova nebo fráze na obrazovce počítače, které může BCI vybrat pohybem kurzoru.

Etické úvahy však nedržely krok s vědou. Zatímco etici naléhali na etičtější zkoumání neurálních modifikací obecně, mnoho praktických otázek týkajících se rozhraní mozek-počítač nebylo plně zváženo. Převažují například výhody BCI podstatná rizika hackování mozku, krádeží informací a kontroly chování? Měl by být BCI použit k omezení nebo posílení konkrétních emocí? Jaký vliv by měly BCI na morální jednání, osobní identitu a duševní zdraví jejich uživatelů?

Tyto otázky nás, filozofa a neurochirurga, kteří studují etiku a vědu o současných a budoucích aplikacích BCI, velmi zajímají. Zvážení etiky používání této technologie před jejím zavedením by mohlo zabránit jejímu možnému poškození. Tvrdíme, že zodpovědné používání BCI vyžaduje ochranu schopnosti lidí fungovat řadou způsobů, které jsou považovány za klíčové pro bytí člověkem.

Rozšíření BCI mimo kliniku

Výzkumníci zkoumají nelékařské aplikace rozhraní mozek-počítač v mnoha oblastech, včetně her, virtuální reality, uměleckého představení, válčení a řízení letového provozu.

Například společnost Neuralink, kterou spoluzaložil Elon Musk, vyvíjí mozkový implantát pro zdravé lidi, aby mohli bezdrátově komunikovat s kýmkoli, kdo má podobný implantát a počítač.

V roce 2018 spustila Agentura pro pokročilé obranné výzkumné projekty americké armády program na vývoj „bezpečného, ​​přenosného systému neurálního rozhraní schopného číst a zapisovat do více bodů v mozku najednou“. Jeho cílem je do roku 2050 vyrábět nechirurgické BCI pro zdatné členy služby pro aplikace národní bezpečnosti. Například voják v jednotce speciálních sil by mohl používat BCI k odesílání a přijímání myšlenek s kolegou vojákem a velitelem jednotky, což je forma přímého třícestná komunikace, která by umožnila aktualizace v reálném čase a rychlejší reakci na hrozby.

Pokud je nám známo, tyto projekty neotevřely veřejnou diskusi o etice těchto technologií. Zatímco americká armáda uznává, že „negativní veřejné a společenské vnímání bude třeba překonat“, aby bylo možné úspěšně implementovat BCI, jsou zapotřebí praktické etické pokyny k lepšímu vyhodnocení navrhovaných neurotechnologií před jejich nasazením.

prospěchářství

Jeden přístup k řešení etických otázek, které BCI vyvolává, je utilitární. Utilitarismus je etická teorie, která se snaží maximalizovat štěstí nebo blaho každého postiženého akcí nebo politikou.

Vylepšení vojáků může přinést největší dobro zlepšením bojových schopností národa, ochranou vojenského majetku tím, že vojáky udržíte na dálku a udržíte vojenskou připravenost. Utilitární zastánci neuroenhancementu tvrdí, že vznikající technologie jako BCI jsou morálně ekvivalentní jiným široce přijímaným formám vylepšení mozku. Například stimulanty, jako je kofein, mohou zlepšit rychlost zpracování mozku a mohou zlepšit paměť.

Někteří se však obávají, že utilitární přístupy k BCI mají morální slepá místa. Na rozdíl od lékařských aplikací určených na pomoc pacientům jsou vojenské aplikace navrženy tak, aby pomohly národu vyhrát války. V tomto procesu se BCI může potýkat s individuálními právy, jako je právo být duševně a emocionálně zdravý.

Například vojáci obsluhující bezpilotní zbraně ve válce na dálku dnes hlásí vyšší míru emočního stresu, posttraumatické stresové poruchy a rozpadlých manželství ve srovnání s vojáky na zemi. Vojáci se samozřejmě běžně rozhodují obětovat pro vyšší dobro. Pokud se však neuroenhancing stane požadavkem na práci, mohlo by to vyvolat jedinečné obavy z donucení.

neuropráva

Jiný přístup k etice BCI, neurorights, upřednostňuje určité etické hodnoty, i když to nevede k maximalizaci celkového blahobytu.

Zastánci neuropráv prosazují práva jednotlivců na kognitivní svobodu, duševní soukromí, duševní integritu a psychickou kontinuitu. Právo na kognitivní svobodu může bránit nepřiměřenému zasahování do duševního stavu člověka. Právo na duševní soukromí může vyžadovat zajištění chráněného duševního prostoru, zatímco právo na duševní integritu by zakazovalo konkrétní poškození duševních stavů člověka. Konečně, právo na psychologickou kontinuitu může chránit schopnost člověka zachovat si v průběhu času koherentní pocit sebe sama.

BCI mohou zasahovat do neuropráv různými způsoby. Pokud například BCI manipuluje s tím, jak se uživateli zdá svět, nemusí být schopen rozlišit své vlastní myšlenky nebo emoce od změněných verzí sebe sama. To může porušovat neuropráva, jako je duševní soukromí nebo duševní integrita.

Vojáci však již podobná práva ztrácejí. Americká armáda má například dovoleno omezovat svobodu projevu vojáků a svobodné vyznání náboženství způsoby, které nejsou běžně aplikovány na širokou veřejnost. Bylo by porušování neuropráv v něčem jiné?

Lidské schopnosti

Přístup založený na lidských schopnostech trvá na tom, že ochrana určitých lidských schopností je zásadní pro ochranu lidské důstojnosti. Zatímco neuropráva se zaměřují na schopnost jednotlivce myslet, pohled na kapacitu bere v úvahu širší rozsah toho, co lidé mohou dělat a být, jako je schopnost být emocionálně a fyzicky zdravý, volně se pohybovat z místa na místo, mít vztah k ostatním a přírodě, Cvičte smysly a představivost, pociťujte a vyjadřujte emoce, hrajte si a rekreujte a regulujte bezprostřední okolí.

Přístup založený na schopnostech považujeme za přesvědčivý, protože poskytuje robustnější obraz lidskosti a respektu k lidské důstojnosti. Na základě tohoto pohledu jsme tvrdili, že navrhované BCI aplikace musí přiměřeně chránit všechny centrální schopnosti uživatele na minimální hranici. BCI navržená tak, aby rozšiřovala schopnosti nad průměrné lidské schopnosti, by musela být nasazena způsobem, který plní cíle uživatele, nejen cíle jiných lidí.

Například obousměrná BCI, která nejen extrahuje a zpracovává mozkové signály, ale poskytuje somatosenzorickou zpětnou vazbu, jako jsou pocity tlaku nebo teploty, zpět k uživateli, by představovala nepřiměřená rizika, pokud by narušila schopnost uživatele důvěřovat svým vlastním smyslům. Stejně tak jakákoli technologie, včetně BCI, která řídí pohyby uživatele, by narušila jeho důstojnost, pokud by uživateli neumožňovala nějakou možnost ji potlačit.

Omezení pohledu na schopnosti spočívá v tom, že může být obtížné definovat, co se počítá jako prahová schopnost. Pohled nepopisuje, které nové schopnosti stojí za to sledovat. Neuroenhancement by však mohl změnit to, co je považováno za standardní práh, a mohl by nakonec zavést zcela nové lidské schopnosti. Řešení tohoto problému vyžaduje doplnit přístup založený na schopnostech o úplnější etickou analýzu navrženou k zodpovězení těchto otázek.