11.8 – Ami az esetekből általánosítható – Was sich aus den Fällen verallgemeinern lässt

1. A Fargo és Moorhead városokra vonatkozó 2019-es árvízértékelésben a „Nincs intézkedés” megjelölésű alternatíva tartalmazott egy árvízvédelmi projektet.

2. A megnevezés nem azt jelentette, hogy a folyókat és a városokat békén hagynák, annak ellenére, hogy a jelentéssel nem ismerős olvasó ésszerűen ezt következtethette volna.

3. Azt jelentette, hogy megtartják a 2013-as értékelésben leírt tervet, miközben összehasonlítják azt egy felülvizsgált tervvel, így mindkét lehetőség jelentős védelmi munkálatokat jelentett.

4. Négy évvel később az FDA jóváhagyott egy génszerkesztéssel készült kezelést a sarlósejtes vérszegénységre, miközben több évig tartó utánkövetést írt elő azok számára, akik részesültek benne.

5. Mindkét döntés esetében a hatóságok összehasonlíthatták a várható hasznot a fennmaradó kockázattal, de a kezelés utáni megfigyelés és az árvíz utáni megfigyelés nem tudta ugyanolyan típusú veszteségeket helyrehozni.

6. A félrevezető megjelölés már azelőtt fontos, hogy bárki is hozzáadná a várható hasznok oszlopát, mert egy összehasonlítás csak a kiindulási alapként meghatározott helyzethez viszonyítva méri a választást.

7. Egy olyan modellezett árvíz esetében, amelynek egy adott évben 1 százalékos a túllépési valószínűsége, a jelenlegi körülmények között a védett területen körülbelül 25 000 épület kerülne víz alá.

8. A felülvizsgált B-terv szerint ez a szám 223-ra csökkent.

9. Ezek a számok egy meghatározott eseményt írnak le, nem pedig a később bekövetkezett károk számát.

10. Ezenkívül nem írják le a projekt által érintett összes helyet, mivel a védőművek a városi kitettség csökkentése mellett a vizet a folyó felső szakaszán is visszatartanák.

11. A gát felett ugyanaz az értékelés azonosította azokat az építményeket, amelyek a jelenlegi körülményekhez képest újonnan ki lennének téve az árvízveszélynek, és ez a mintázat megyénként eltérő volt, nem pedig egy irányba egyenletesen változott.

12. Az elárasztott épületek számának jelentős csökkenése látszólagos egyszerűsége így helyet ad egy nehezebb kérdésnek: kinek változik a kitettsége, és ki dönti el, hogy ez a változás elfogadható-e?

13. Egy háztartás védelme nem szolgálhat egy másik háztartás beleegyezésének alapjául.

14. Egy modellezett építmény nem egy személy, nem egy gazdaság, nem egy vállalkozás, és nem is a veszteség teljes mértékét jelenti.

15. A felső folyású és városi adatokat sem lehet egyetlen megnyugtató egyenlegbe összevonni anélkül, hogy figyelembe vennénk azok eltérő határait és összehasonlítási alapjait.

16. A Hadtest módosíthatná a működési szabályokat a körülmények és az ismeretek változásával, feltéve, hogy megőrzi ehhez a felhatalmazást és a gyakorlati eszközöket.

17. A házba bejutott vizet nem lehet visszahívni egy szabály módosításával.

18. A kártérítés segíthet valakinek az újjáépítésben, de nem állítja vissza minden elvesztett vagyontárgyat , az elmulasztott szezont vagy a helyhez fűződő kötődést, és maga a kifizetés is a folyamatos állami elkötelezettségtől függ.

19. A különbség a politika megváltoztatása és a következmény visszafordítása között van.

20. Könnyű egy döntést visszafordíthatónak nevezni, ha a döntéshozó módosíthat egy dokumentumot, de sokkal nehezebb, ha az érintett személynek azzal kell együtt élnie, ami a döntés alapján történt.

21. A fargói értékelés már az építkezés előtt láthatóvá tett bizonyos bizonytalanságokat azáltal, hogy összehasonlította a modellezett árvízszinteket, és azonosította, kik kerülhetnek új veszélynek kitéve az egyes meghatározott megoldások esetén, beleértve a védelemre kijelölt városi területen kívül élőket is.

22. Ez az ismeret alapul szolgálhatott volna a tervezéshez, a földvásárlásokhoz, a korlátozásokhoz és a kártérítéshez, mielőtt a projekt megváltoztatta volna, hogy a következő nagy árvíz hogyan fog terjedni.

23. Nem tudta volna azonban a következő árvizet a tervezett időpontban bekövetkezni, minden jövőbeli hibát feltárni, vagy minden lakosnak azonos alkupozíciót biztosítani egy olyan projektben, amelynek költségei és haszna egyenlőtlenül oszlanak meg.

24. A kötelezettségvállalás előtti ismeretszerzés éppen azért értékes, mert a későbbi ismeretek akkor érkezhetnek, amikor egy adott kár megelőzésének lehetősége már elmúlt.

25. Mit tudhattak volna meg a döntéshozók az emberek és erőforrások elkötelezése előtt, amikor az információk még befolyásolhatták a tervezést?

26. Egy árvízvédelmi projekt esetében a modellekkel meghatározott események tesztelhetők és a javasolt üzemeltetési szabályok összehasonlíthatók, míg a térképek segítségével beazonosíthatók azok az ingatlanok, amelyek tulajdonosainak érdemi tájékoztatásra van szükségük a kockázatokról.

27. Minden eredmény a vízre, a terepre és az üzemeltetésre vonatkozó feltételezésektől függ.

28. Egy feltételes becslés félrevezetővé válik, ha úgy értelmezik, mintha minden jövőbeli árvízre vonatkozó ígéret lenne.

29. A beavatkozásra rendelkezésre álló idő rövidebb, mint egy irányelv érvényességi ideje.

30. Egy zsilipet egy későbbi árvíz során másképp működtethetnek, de az árvízzel szembesülő családnak védelemre vagy figyelmeztetésre van szüksége, amíg a víz még úton van.

31. A szabály utólagos megváltoztatása megakadályozhatja az esemény megismétlődését anélkül, hogy orvosolná az első kárt.

32. Még a jobb bizonyítékokra való várakozásnak is van költsége, amikor a város védelmének esélye az idő múlásával csökken, különösen akkor, ha minden egyes további évszakban a lakosok ki vannak téve annak a veszélynek, amelyet az értékelés már egyértelművé tett.

33. A késlekedés önmagában is egy olyan döntés, amely veszélynek teszi ki az embereket.

34. Mindez nem jelenti azt, hogy a felülvizsgált terv automatikusan helyes lenne.

35. Ezáltal a bizonyítékok időzítése, a kitettség eloszlása és a helyreállítás korlátai is részévé válnak annak, amit a tervnek igazolnia kell.

36. A hosszú távú karbantartás és a kártérítés szintén kötelezettségvállalások, amelyek pénzt, hatáskört és figyelmet igényelnek, miután az eredeti jóváhagyás már nem vonzza magára a figyelmet.

37. Egy műszaki terv önmagában nem garantálja, hogy ezeket a kötelezettségeket teljesíteni fogják, miután a tervet javasló mérnökök és a jóváhagyó tisztviselők már továbbálltak.

38. Ugyanaz a szó, a „monitorozás”, más jelentést hordoz, amikor a beavatkozás egy beteg testében történik.

39. Az FDA Casgevy nevű kezelését 2023 decemberében kapott jóváhagyást olyan sarlósejtes vérszegénységben szenvedő betegek számára, akik ismétlődő súlyos fájdalomrohamoktól szenvednek.

40. A kezelés a beteg saját vérképző sejtjeit módosítja, majd intenzív előkészítés után visszaadja azokat.

41. A betegség ismétlődő rohamokat és súlyos szervkárosodást okozhat, így egy potenciálisan hatékony kezelés elutasításának is vannak következményei.

42. A kötelező hosszú távú vizsgálat olyan kockázatokat vizsgálna, amelyeket a rövid távú kísérletek nem tudtak tisztázni, beleértve a nem szándékolt génmódosítási hatásokat és a későbbi rosszindulatú daganatok.

43. A szükséges vizsgálat zárójelentését 2043 végére tervezték.

44. Ez az időpont nem jelenti azt, hogy egy 2023-ban kezelt személy húsz évet várhatna a bizonyosságra anélkül, hogy továbbra is elviselné a betegséget.

45. A beteg mérlegelheti az ismert terhet a még nem teljesen ismert későbbi káros hatásokkal szemben, és elfogadhatja vagy elutasíthatja a kezelést, figyelembe véve a hozzáférés és a tájékozott beleegyezés tényleges korlátait.

46. Miután a módosított sejtek megtelepedtek, a nyomon követés nem tudja egyszerűen visszaállítani a beteg korábbi állapotát.

47. Felismerheti a problémákat, támogathatja az ellátást, és információval szolgálhat ahhoz, amit az orvosok a későbbi betegeknek mondanak.

48. A megfigyelés a jövőbeli döntések szolgálatában áll, még akkor is, ha a jelenlegit nem tudja visszacsinálni.

49. Ezért a jelenlegi beteg beleegyezése és a jövőbeli ismeretszerzés ígérete különböző feladatokat lát el.

50. Semmilyen mértékű megfigyelés nem pótolhatja azt a lehetőséget, lehetőségét, hogy a kezelés előtt megértse a választást.

51. A beteg és a szabályozó hatóság is különböző dolgokat irányít: az egyik eldöntheti, hogy aláveti-e magát a kezelésnek, míg a másik tanulmányokat követelhet, vagy módosíthatja a kezelés felajánlásának feltételeit.

52. Egyik sem garantálhatja a késői szövődmények hiányát.

53. A Fargo és a Casgevy esetében nincs olyan közös mértékegység, amelyben előnyeiket értékelni lehetne.

54. Az egyik egy tágabb terület védelmét célozza, a másik pedig a már súlyos betegséggel élő emberek megkönnyebbülését.

55. Az összehasonlítás azonban rávilágít egy könnyen elkövethető hibára: úgy kezelni a következmény megfigyelésének képességét, mintha az a következmény megelőzésének vagy visszafordításának képessége lenne.

56. A beleegyezés hatálya még élesebbé teszi az ellentétet.

57. Egy személy beleegyezhet egy olyan kezelésbe, amelynek tartós hatásai elsősorban a saját testét érintik, bár a családtagok és a gondozók is érintettek lehetnek.

58. Egy folyóprojekt megváltoztatja azoknak az embereknek a kitettségét, akik nem tudják egyenként jóváhagyni a víz útját.

59. Ahol az érintett csoport nem redukálható egyetlen beleegyező személyre, a hatóságnak más módon kell elszámolnia azzal, kinek az érdekeit vette figyelembe, és kinek a veszteségeit fogja viselni.

60. Ez az elszámolás nem érhet véget az engedély kiadásával.

61. Ki kell állnia az első árvíz, a következő költségvetés próbáját, valamint azt a lehetőséget, hogy a modell elmulasztott valami fontosat.

62. Az, hogy ilyen folyamatos felelősségvállalás megvalósítható-e, részben attól függ, hogy egy beavatkozás milyen messzire juthat el a támogatói nélkül.

63. 2019-ben burkina-fasói kutatók korlátozott számú, génmódosított, steril hím szúnyogot engedtek szabadjára, hogy megfigyeljék, hogyan viselkednek a természetben.

64. A rovarok nem hordozták a génmeghajtót, azt a genetikai mechanizmust, amelynek célja, hogy egy tulajdonság a populációban a szokásos öröklődésnél gyorsabban terjedjen.

65. Ez a különbség határozta meg, hogy mit tudott igazolni ez a kis kísérlet.

66. A szabadon engedés alkalmas volt a választott körülmények között a rovarok nyomon követésére és újbóli befogására a kiválasztott körülmények között, de nem tudta bizonyítani, hogy egy jövőbeli, önterjedő módosítás ugyanolyan mértékben visszatartható lenne.

67. A projekt saját beszámolója a kibocsátás előtt korlátozott kibocsátásról és helyi bevonásról számolt be, leírva a szabályozói engedélyezést és a kibocsátási helyszín környékén élő lakosokkal folytatott megbeszéléseket.

68. A sikerről szóló beszámolója bizonyítékot nyújt arra a projektre vonatkozóan, nem pedig általános garanciát más technológiákra vagy olyan közösségekre, amelyek ökológiai körülményei és intézményei eltérőek lehetnek.

69. Az Egészségügyi Világszervezet iránymutatása a génmódosított szúnyogok tesztelését a kockázatértékelés és a bizonyítékgyűjtés fokozatos folyamataként kezeli.

70. A fokozatosság azért fontos, mert az egyik környezetből származó megfigyelések csak akkor indokolhatják a következő lépést, ha a következő lépés lehetséges káros hatásai olyan keretek között maradnak, amelyekkel a korábbi bizonyítékok ésszerűen megbirkózhatnak.

71. Egy kísérlet létszámában kicsi lehet anélkül, hogy következményei szempontjából feltétlenül kicsi lenne.

72. Ha egy módosítás képes szaporodni, terjedni vagy a kísérleti területen túl fennmaradni, a kezdeti kibocsátás leállítása aligha járul hozzá annak visszaszorításához.

73. A Nemzeti Akadémiák kutatói ezért a génmeghajtókat a kormányzás számára különálló kihívásként kezelték, nem pedig a sterilizált hímek kibocsátásának nagyobb változataként.

74. Meg kell különböztetni a kísérlet leállításának jogát attól a fizikai képességtől, hogy megállítsuk azt, amit a kísérlet már elindított.

75. A kutatók véget vethetnek a további kibocsátásoknak, a szabályozó hatóságok pedig visszavonhatják a következő kísérlet engedélyét.

76. Ezek a jogosultságok hasznosak, de egyik sem egyenértékű azzal, hogy visszaszerezzünk egy már elterjedt organizmust, vagy helyrehozzunk egy már bekövetkezett ökológiai hatást.

77. A steril szúnyogok korlátozott fennmaradási ideje hozzájárult ahhoz, hogy az a kibocsátás egy határolt kísérlet maradjon.

78. Ezt a tulajdonságot nem lehet csendben átruházni egy hipotetikus génmeghajtóra.

79. A klinika vagy a tulajdonhatáron túl az a kérdés, hogy kinek a káráról van szó, már nem illeszkedik az egyéni betegek számára elérhető beleegyezési modellbe.

80. A kibocsátási helyszín közelében lakók olyan aggályokkal szembesülhetnek, amelyeket egy önkéntes beleegyezése nem tud rendezni, még akkor sem, ha a projekt konzultált a közösséggel és megszerezte a jogi engedélyt.

81. A részvétel feltárhatja a helyi ismereteket és nézeteltéréseket, de nem oldja meg az ökológiai bizonytalanságot.

82. A hatalom kérdése a találkozó befejezése után is fennmarad, mert azoknak az embereknek, akik észrevennék a nem kívánt változást észrevennék, olyan csatornákra van szükségük, amelyeken keresztül észrevételeikkel befolyásolhatják a projektet.

83. Egy kísérlet azért érdemli meg a nevét, mert képes használható ismereteket előállítani korlátozott feltételek mellett, nem pedig pusztán azért, mert a szponzorai az első bevezetést tesztnek nevezik.

84. A mesterséges intelligencia bevezetés előtti tesztelése egy újabbfajta határt jelent.

85. Az o1 modell 2024. decemberi nyilvános bevezetése előtt brit és amerikai MI-biztonsági intézetek korlátozott ideig hozzáférési időszak alatt megvizsgálták, és eredményeiket megosztották a fejlesztővel.

86. Az ilyen tesztek feltárhatják a viselkedést kiválasztott feladatok és körülmények között, miközben még van lehetőség a kiadási döntés vagy a biztonsági intézkedések módosítására, bár a tesztelt körülmények csupán töredékét képezik azoknak, amelyekkel a bevezetett modell szembesülni fog.

87. Egyetlen bevezetés előtti teszt sem képes minden későbbi felhasználási esetet lefedni.

88. A modell frissítésének vagy a hozzáférés korlátozásának lehetősége korrekciós lehetőséget nyújthat, de nem szünteti meg az adott felhasználás által már okozott kárt.

89. A tesztelés gyakorlati értéke ezért a hozzáféréstől, az időtől, a kiválasztott tesztektől és attól függ, hogy van-e jogosultság a tesztek eredményeire reagálni.

90. A hosszabb tesztelés emellett megvonhatja az előnyöket azoktól, akiknek szükségük van rájuk.

91. Egyetlen laboratóriumi eredmény sem dönti el önmagában ezt a kompromisszumot.

92. Egy katonai válság kevesebb időt és kevesebb ellenőrizhető bizonyítékot kínál.

93. Az 1983-as „Able Archer” nevű NATO-gyakorlat során a szovjet erők olyan jeleket mutattak, amelyeket az amerikai nyomozók később egy lehetséges támadással kapcsolatos komoly aggodalomként értelmeztek.

94. Az amerikai tisztviselők időben túl keveset láttak ebből a tevékenységből.

95. Leonard Perroots, az amerikai légierő tábornoka úgy döntött, hogy nem reagál a tevékenységre a riadókészültség megfelelő emelésével; ezt a döntést a későbbi vizsgálat dicsérte, anélkül, hogy azt állította volna, hogy ő teljes képet kapott a helyzetről.

96. A riadókészültség óvintézkedés és jelzés az ellenfél számára.

97. Egy bizonytalan jelzés visszatükrözése újabb jelzést eredményezhet, ami mindkét félnek új okot ad arra, hogy féljen a másik lehetséges lépéseitől.

98. Percek vagy órák számítanak, ilyenkor lehetetlen minden jelzést alaposan megvizsgálni, de a reflexszerű eszkaláció ugyanolyan gyorsan szűkítheti az értelmezés mozgásterét.

99. Az eset nem szolgáltat megbízható adatot a nukleáris háború kockázatáról, és a visszatekintő beszámoló nem helyettesítheti a szovjet döntéshozatal teljes képét.

100. Tanulsága abban rejlik, hogy a védelmi intézkedések hogyan válhatnak részévé annak a veszélynek, amelyet éppen megpróbálnak kordában tartani.

101. Az AI-teszt és az Able Archer közös problémája a hiányos jelek, de a vizsgálatukra rendelkezésre álló idő és a válasz kijavítására irányuló hatáskör radikálisan eltér egy szoftverfrissítés és egy katonai konfrontáció esetében .

102. Egy mesterséges intelligencia-szolgáltató módosíthatja a modellt, a hatóságok feltételeket szabhatnak, a felhasználók pedig hibákat jelenthetnek, de ezeknek a különböző hatásköröknek össze kell kapcsolódniuk, mielőtt a bevetésből származó bizonyítékok hasznos korrekcióvá válhatnának.

103. Egy akut biztonsági konfrontáció során egy félreértett jel és az ahhoz kapcsolódó riasztás gyorsabban terjedhet, mint bármilyen szisztematikus vizsgálat, miközben egy katasztrofális eszkaláció nem engedne meg egy második kísérletet.

104. Ha mindkét helyzetet bizonytalannak nevezzük, az túl kevés.

105. A hasznos összehasonlítás azt a kérdést veti fel, hogy melyik bizonytalanság csökkenthető a döntő lépés előtt, meddig halasztható el ez a lépés, és kinek a hatásköre képes megszakítani egy káros eseménysort.

106. Azt is felveti, hogy ki viseli a téves riasztás költségeit, és ki viseli az elmulasztott figyelmeztetés költségeit, mivel ugyanaz az intézmény rendelkezhet reagálási jogosultsággal, miközben a következményeket különböző közösségek viselik.

107. Ezek a költségek különböző emberekre, különböző országokra és generációkra hárulhatnak, és nem mindig lehet őket egyetlen olyan elvárásba összevonni, amely megalapozott számadatokkal vagy elfogadott erkölcsi súlyozással rendelkezik.

108. Ugyanez az érvelés megváltoztatja a jól ismert erények jelentését.

109. A sokszínűség megőrizheti az alternatívákat egy energiarendszerben vagy egy intézményben, ám a redundáns megoldások erőforrásokat fogyasztanak, és együttesen is meghibásodhatnak, ha ugyanazon rejtett alkotóelemre támaszkodnak.

110. Az elővigyázatosság megakadályozhat egy tartós kárt, de a késlekedés önmagában is káros lehet, ha egy kezelhető betegség előrehalad, vagy egy város továbbra is veszélynek van kitéve.

111. A jogi kötelezettségvállalás éveken át hitelesítheti a kártérítést és a felügyeletet, különösen azok számára, akiket arra kérnek, hogy bízzanak egy olyan intézményben, amelynek vezetése változhat, míg egy olyan szabály, amely túl merev ahhoz, hogy a bizonyítékokra reagáljon, fennmaradhat egy elkerülhető hiba.

112. A kísérlet feltárhat egy mechanizmust, ha hatásai korlátozottak és megfigyelhetők, és rossz címkévé válhat egy olyan beavatkozás számára, amelynek következményei meghaladják a megfigyelők látókörét.

113. Egyik eszköz sem érdemel állandóan magasabb rangot a többi felett.

114. Értékük a szóban forgó veszteség típusától, a rendelkezésre álló időtől, a beavatkozás hatókörétől és azoktól az emberektől függ, akik korrekciót kezdeményezhetnek.

115. Ez utóbbi követelmény gyakran a legkevésbé látható egy ábrán.

116. Az üzemeltetési szabály módosítására vonatkozó ígéret kevés jelentőséget hordoz a felső folyású tulajdonos számára, hacsak nincs valaki, aki fogadja a panaszt, kivizsgálja a vízszinteket, és cselekszik, mielőtt újabb árvíz következne be.

117. Hasonlóképpen, a forgalomba hozatal utáni vizsgálat csak akkor fontos a későbbi betegek számára, ha az eredmények megváltoztathatják a klinikai gyakorlatot, és az információ időben eljut hozzájuk, hogy befolyásolhassa döntésüket.

118. A korrekció egy kötelességekből álló lánc, nem pedig egy tervhez csatolt megnyugtató szó.

119. Bizonyos láncszemeket már az első kár bekövetkezte előtt meg kell teremteni, mert utána már túl kevés lehet az idő, a pénz vagy a politikai figyelem ahhoz, hogy kiépítsék azokat a csatornákat, amelyeken keresztül az érintett személy vizsgálatot és helyreállítást követelhet.

120. Éppen ezért egy szükséges kötelezettségvállalásnak meg kell határoznia a határait és azokat a személyeket, akik jogosultak azt megkérdőjelezni, amíg ezek a döntések még befolyásolhatják az eredményt.

121. A „Nincs intézkedés” kifejezés a Fargo-jelentésben pontosan azt a fajta előzetes döntést rejti, amely meghatározza, hogy a későbbi döntések milyen árat látszanak jelenteni.

122. Még a tétlenség is más jelentést nyert, miután a korábbi terv – és nem egy érintetlen folyó – vált az összehasonlítási alapul.

123. A jövő nyitott marad, ha a kötelezettségvállalást megfogalmazók meghatározzák, melyik világgal hasonlítják össze azt, kik fogják viselni annak következményeit, és milyen hatáskör marad fenn, ha az első összehasonlítás hiányosnak bizonyul.

1. In einer Hochwasserbewertung für Fargo und Moorhead aus dem Jahr 2019 enthielt die als „No Action“ bezeichnete Alternative enthalten ein Hochwasserschutzprojekt.

2. Die Bezeichnung bedeutete nicht, die Flüsse und die Städte sich selbst zu überlassen, auch wenn ein Leser, der mit dem Bericht nicht vertraut ist, dies vernünftigerweise vermuten könnte.

3. Es bedeutete, den in einer Bewertung von 2013 beschriebenen Entwurf beizubehalten und ihn gleichzeitig mit einem überarbeiteten Plan zu vergleichen, sodass beide Optionen umfangreiche Schutzmaßnahmen vorsahen.

4. Vier Jahre später genehmigte die FDA eine geneditierte Therapie gegen Sichelzellenanämie, verlangte dabei jedoch eine mehrjährige Nachbeobachtung der Patienten, die diese Behandlung erhielten.

5. Bei beiden Entscheidungen konnten die Verantwortlichen den erwarteten Nutzen mit dem verbleibenden Risiko abwägen, doch die Nachbeobachtung nach einer Behandlung und die Nachbeobachtung nach einem Hochwasser konnten nicht dieselbe Art von Verlusten beheben.

6. Die irreführende Bezeichnung spielt eine Rolle, bevor jemand eine Spalte mit den prognostizierten Vorteilen hinzufügt, denn ein Vergleich bewertet eine Entscheidung nur anhand der in der Basislinie festgelegten Rahmenbedingungen.

7. Bei einer modellierten Hochwasserereigniswahrscheinlichkeit von einem Prozent in einem bestimmten Jahr würden unter den bestehenden Bedingungen etwa 25.000 Gebäude im Schutzgebiet überflutet werden.

8. Im Rahmen des überarbeiteten Plans B sank diese Schätzung auf 223.

9. Diese Zahlen beschreiben ein bestimmtes Ereignis und stellen keine Aufzählung der später eingetretenen Schäden dar.

10. Sie beschreiben auch nicht jeden vom Projekt betroffenen Ort, da die Schutzanlagen das Wasser stromaufwärts zurückhalten würden, während sie die Gefährdung in städtischen Gebieten verringern.

11. Oberhalb des Deichs wurden in derselben Bewertung Gebäude identifiziert, die im Vergleich zu den bestehenden Bedingungen neu von Überschwemmungen bedroht wären, wobei sich das Muster von Landkreis zu Landkreis unterschied und nicht einheitlich in eine Richtung verlief.

12. Die scheinbare Einfachheit einer starken Verringerung der Zahl überschwemmter Gebäude weicht somit einer schwierigeren Frage: Wessen Gefährdung ändert sich, und wer entscheidet, ob diese Änderung akzeptabel ist?

13. Der Schutz eines Haushalts kann nicht als Zustimmung eines anderen Haushalts gelten.

14. Ein in einem Modell nachgebildetes Bauwerk ist keine Person, kein landwirtschaftlicher Betrieb, kein Unternehmen und kein vollständiger Maßstab für Verluste.

15. Ebenso wenig lassen sich die Zahlen für flussaufwärts gelegene Gebiete und städtische Gebiete zu einer einzigen beruhigenden Bilanz zusammenfassen, ohne ihre unterschiedlichen Grenzen und Vergleichsgrößen zu berücksichtigen.

16. Das Corps könnte die Betriebsvorschriften anpassen, wenn sich die Bedingungen und Erkenntnisse ändern, vorausgesetzt, es behält die Befugnis und die praktischen Mittel dazu.

17. Wasser, das in ein Haus eingedrungen ist, lässt sich nicht durch eine Regeländerung zurückholen.

18. Eine Entschädigung mag jemandem beim Wiederaufbau helfen, aber sie ersetzt nicht jeden verlorenen Besitz , eine verpasste Saison oder die Verbundenheit mit einem Ort wiederherstellen, und die Zahlung selbst hängt von einem anhaltenden öffentlichen Engagement ab.

19. Es besteht ein Unterschied zwischen der Änderung einer Richtlinie und der Rückgängigmachung einer Folge.

20. Es ist leicht, eine Entscheidung als rückgängig machbar zu bezeichnen, wenn der Entscheidungsträger ein Dokument ändern kann, und viel schwieriger, wenn die betroffene Person mit den Folgen leben muss, die sich daraus ergeben haben.

21. Die Fargo-Bewertung machte bereits vor Baubeginn gewisse Unsicherheiten sichtbar, indem sie modellierte Hochwasserstände verglich und ermittelte, wer unter jeder spezifischen Regelung einer neuen Gefährdung ausgesetzt sein könnte, einschließlich Menschen außerhalb des zum Schutz ausgewiesenen Stadtgebiets.

22. Dieses Wissen könnte in die Planung, den Grundstückserwerb, Auflagen und Entschädigungen einfließen, bevor das Projekt verändert, wie sich die nächste große Hochwasserwelle ausbreiten würde.

23. Es konnte jedoch nicht dafür sorgen, dass die nächste Hochwasserkatastrophe pünktlich eintraf, nicht jedes zukünftige Versagen aufdecken und nicht jedem Einwohner die gleiche Verhandlungsmacht bei einem Projekt geben, dessen Kosten und Nutzen ungleich verteilt wären.

24. Erkenntnisse vor einer Festlegung sind gerade deshalb wertvoll, weil späteres Wissen möglicherweise erst dann eintrifft, wenn die Gelegenheit, einen bestimmten Schaden zu verhindern, bereits verpasst ist.

25. Was hätten die Entscheidungsträger lernen können, bevor sie Menschen und Ressourcen einsetzten, solange die Informationen die Planung noch beeinflussen konnten?

26. Bei einem Hochwasserschutzprojekt können Modelle bestimmte Ereignisse simulieren und vorgeschlagene Betriebsregeln vergleichen, während Karten Grundstücke lokalisieren, deren Eigentümer eine aussagekräftige Darstellung der Risiken benötigen.

27. Jedes Ergebnis hängt von Annahmen über Wasser, Gelände und Betriebsabläufe ab.

28. Eine bedingte Schätzung wird irreführend, wenn sie als Versprechen für alle zukünftigen Hochwasserereignisse interpretiert wird.

29. Der Zeitrahmen für ein Eingreifen ist enger als die Gültigkeitsdauer eines politischen Dokuments.

30. Ein Schleusentor mag bei einem späteren Hochwasser anders betätigt werden, doch eine Familie, die von diesem Hochwasser betroffen ist, benötigt Schutz oder eine Warnung, solange das Wasser noch auf dem Weg ist.

31. Eine nachträgliche Änderung der Vorschriften kann zwar eine Wiederholung verhindern, ohne jedoch den ersten Schaden zu beheben.

32. Selbst das Abwarten besserer Erkenntnisse ist mit Kosten verbunden, wenn die Chance, eine Stadt zu schützen, mit der Zeit schwindet – insbesondere, wenn die Bewohner mit jeder weiteren Saison einer Gefahr ausgesetzt bleiben, die die Bewertung bereits deutlich gemacht hat.

33. Eine Verzögerung ist eine Entscheidung, die an sich schon Menschen einem Risiko aussetzt.

34. Nichts davon macht den überarbeiteten Plan automatisch richtig.

35. Es macht den Zeitpunkt der Beweislage, die Verteilung der Gefährdung und die Grenzen der Sanierungsmaßnahmen zu einem Teil dessen, was der Plan rechtfertigen muss.

36. Langfristige Instandhaltung und Entschädigung sind ebenfalls Verpflichtungen, die Geld, Befugnisse und Aufmerksamkeit erfordern, nachdem die ursprüngliche Genehmigung keine Beachtung mehr findet.

37. Ein technischer Entwurf kann für sich genommen nicht garantieren, dass diese Verpflichtungen eingehalten werden, sobald die Ingenieure, die ihn vorgeschlagen haben, und die Beamten, die ihn genehmigt haben, nicht mehr im Amt sind.

38. Dasselbe Wort, „Überwachung“, hat eine andere Bedeutung, wenn der Eingriff im Körper eines einzelnen Patienten stattfindet.

39. Das von der FDA zugelassene Medikament Casgevy wurde im Dezember 2023 für Patienten mit Sichelzellenanämie zugelassen, die unter wiederkehrenden schweren Schmerzkrisen leiden.

40. Bei dem Medikament werden die körpereigenen blutbildenden Zellen des Patienten genetisch verändert und nach intensiver Aufbereitung wieder zurückgeführt.

41. Die Krankheit kann wiederholte Krisen und schwere Organschäden verursachen, sodass die Ablehnung einer potenziell wirksamen Behandlung ebenfalls Konsequenzen hat.

42. Die erforderliche Langzeitstudie würde Risiken untersuchen, die in kurzen Studien nicht geklärt werden konnten, darunter unbeabsichtigte Auswirkungen der Genbearbeitung und spätere Malignome.

43. Der Abschlussbericht der erforderlichen Studie war für Ende 2043 vorgesehen.

44. Dieser Zeitpunkt bedeutet nicht, dass eine im Jahr 2023 behandelte Person zwanzig Jahre auf Gewissheit warten könnte, ohne weiterhin unter der Krankheit zu leiden.

45. Der Patient kann eine bekannte Belastung gegen unvollständig bekannte spätere Schäden abwägen und die Behandlung annehmen oder ablehnen, vorbehaltlich der tatsächlichen Grenzen des Zugangs und der Einwilligung nach Aufklärung.

46. Sobald sich die editierten Zellen etabliert haben, kann eine Nachsorge den früheren Zustand des Patienten nicht einfach wiederherstellen.

47. Sie kann Probleme erkennen, die Versorgung unterstützen und als Grundlage für die Beratung späterer Patienten durch Ärzte dienen.

48. Die Beobachtung dient zukünftigen Entscheidungen, auch wenn sie die gegenwärtige Entscheidung nicht rückgängig machen kann.

49. Deshalb erfüllen die Einwilligung eines aktuellen Patienten und das Versprechen zukünftiger Erkenntnisse unterschiedliche Aufgaben.

50. Keine noch so intensive Überwachung kann die Möglichkeit des Patienten , die Entscheidung vor der Behandlung zu verstehen.

51. Der Patient und die Aufsichtsbehörde haben zudem unterschiedliche Kontrollbefugnisse: Der eine kann entscheiden, ob er sich einer Behandlung unterzieht, während die andere Studien verlangen oder die Bedingungen, unter denen diese angeboten wird, überarbeiten kann.

52. Keiner von beiden kann garantieren, dass keine Spätkomplikationen auftreten.

53. Fargo und Casgevy haben keine gemeinsame Maßeinheit, anhand derer sich ihr Nutzen bewerten ließe.

54. Bei dem einen geht es um Schutz auf breiter Ebene, bei dem anderen um Linderung für Menschen, die bereits mit einer schweren Krankheit leben.

55. Doch der Vergleich deckt einen Fehler auf, der leicht wiederholt werden kann: die Fähigkeit, eine Folge zu beobachten, so zu behandeln, als wäre sie die Fähigkeit, diese zu verhindern oder rückgängig zu machen.

56. Der Umfang der Einwilligung lässt den Kontrast noch deutlicher hervortreten.

57. Eine Person kann einer Behandlung zustimmen, deren dauerhafte Auswirkungen in erster Linie den eigenen Körper betreffen, auch wenn Familie und Pflegepersonen ebenfalls betroffen sein können.

58. Ein Flussbauprojekt verändert die Gefährdungslage von Menschen, die nicht jeder für sich den Verlauf des Wassers genehmigen können.

59. Wo sich die betroffene Gruppe nicht auf eine einzige zustimmende Person reduzieren lässt, benötigt die öffentliche Hand eine andere Darstellung darüber, wessen Interessen berücksichtigt wurden und wessen Verluste sie tragen wird.

60. Diese Darstellung darf nicht mit der Genehmigung enden.

61. Sie muss die erste Überschwemmung, den nächsten Haushalt und die Möglichkeit überstehen, dass dem Modell etwas Wesentliches entgangen ist.

62. Ob eine solche fortdauernde Verantwortung machbar ist, hängt zum Teil davon ab, wie weit sich ein Eingriff ohne seine Träger ausbreiten kann.

63. Im Jahr 2019 setzten Forscher in Burkina Faso eine begrenzte Anzahl gentechnisch veränderter, steriler männlicher Mücken aus, um zu untersuchen, wie sie sich in freier Wildbahn verhielten.

64. Die Insekten trugen keinen Gen-Drive in sich, einen genetischen Mechanismus, der dafür ausgelegt ist, ein Merkmal schneller in einer Population zu verbreiten, als es die normale Vererbung zulassen würde.

65. Dieser Unterschied bestimmte, was das kleine Experiment nachweisen konnte.

66. Der Freisetzungsversuch konnte Verfahren zur Überwachung und zum Wiederfang von Insekten unter den gewählten Bedingungen zu testen, konnte jedoch nicht nachweisen, dass eine zukünftige sich selbst verbreitende Modifikation ebenso eindämmbar wäre.

67. Der Projektbericht selbst berichtete von einer begrenzten Freisetzung und lokaler Einbindung im Vorfeld, wobei die behördliche Genehmigung und Gespräche mit Anwohnern rund um den Freisetzungsort beschrieben wurden.

68. Der Bericht über den Erfolg ist ein Beleg für dieses Projekt, keine allgemeine Garantie für andere Technologien oder Gemeinschaften, deren ökologische Bedingungen und Institutionen sich möglicherweise unterscheiden.

69. Die Leitlinien der Weltgesundheitsorganisation behandeln die Erprobung gentechnisch veränderter Mücken als einen stufenweisen Prozess der Risikobewertung und Evidenzgewinnung.

70. Die stufenweise Vorgehensweise ist wichtig, da Beobachtungen aus einem Umfeld den nächsten Schritt nur dann rechtfertigen können, wenn die möglichen Schäden des nächsten Schritts innerhalb dessen bleiben, was durch die früheren Erkenntnisse vernünftigerweise abgedeckt werden kann.

71. Ein Versuch ist zwar zahlenmäßig klein, muss aber nicht unbedingt geringe Folgen haben.

72. Wenn sich eine Veränderung über das Versuchsgebiet hinaus ausbreiten, weiterverbreiten oder fortbestehen kann, reicht die Einstellung der anfänglichen Freisetzung möglicherweise kaum aus, um sie rückgängig zu machen.

73. Forscher der National Academies haben Gen-Drives daher als eine eigenständige Herausforderung für die Regierungsführung betrachtet, nicht als eine größere Version der Freisetzung steriler Männchen.

74. Das Recht, ein Experiment zu beenden, muss von der physischen Fähigkeit unterschieden werden, das zu stoppen, was das Experiment bereits in Gang gesetzt hat.

75. Forscher können weitere Freisetzungen beenden, und Aufsichtsbehörden können die Genehmigung für einen weiteren Versuch entziehen.

76. Diese Befugnisse sind nützlich, aber keine von ihnen ist gleichbedeutend mit der Rückholung eines Organismus, der sich bereits ausgebreitet hat, oder der Behebung einer ökologischen Auswirkung, die bereits eingetreten ist.

77. Die begrenzte Persistenz der sterilen Mücken trug dazu bei, dass diese Freisetzung ein begrenztes Experiment blieb.

78. Diese Eigenschaft lässt sich nicht einfach auf einen hypothetischen Gen-Drive übertragen.

79. Jenseits der Grenzen einer Klinik oder eines Grundstücks passt die Frage, wessen Schaden auf dem Spiel steht, nicht mehr in das Einwilligungsmodell, das einem einzelnen Patienten zur Verfügung steht.

80. Anwohner in der Nähe eines Freisetzungsortes könnten mit Bedenken konfrontiert sein, die nicht durch die Einwilligung eines einzelnen Freiwilligen ausgeräumt werden können, selbst wenn ein Projekt die Gemeinde konsultiert und eine gesetzliche Genehmigung eingeholt hat.

81. Die Beteiligung kann lokales Wissen und Meinungsverschiedenheiten offenlegen, aber ökologische Unsicherheiten nicht ausräumen.

82. Die Frage der Macht bleibt auch nach Ende der Sitzung bestehen, denn die Menschen, die eine unerwünschte Veränderung bemerken würden, benötigen Kanäle, über die ihre Beobachtungen das Projekt beeinflussen können.

83. Ein Experiment verdient seinen Namen durch seine Fähigkeit, unter begrenzten Bedingungen verwertbares Wissen zu generieren, nicht bloß, weil seine Träger den ersten Einsatz als Test bezeichnen.

84. Tests künstlicher Intelligenz vor dem Einsatz stellen eine weitere Art von Grenze dar.

85. Vor der öffentlichen Freigabe des o1-Modells im Dezember 2024 untersuchten britische und amerikanische KI-Sicherheitsinstitute es während eines begrenzten Zeitraums Zugriff und teilten ihre Ergebnisse mit dem Entwickler.

86. Solche Tests können das Verhalten bei ausgewählten Aufgaben und Bedingungen aufdecken, solange noch die Möglichkeit besteht, eine Freigabeentscheidung oder die dazugehörigen Sicherheitsvorkehrungen zu ändern – auch wenn die getesteten Bedingungen nur einen Bruchteil derjenigen ausmachen, denen ein eingesetztes Modell begegnen wird.

87. Kein Test vor der Inbetriebnahme kann jede spätere Nutzung abdecken.

88. Die Möglichkeit, ein Modell zu aktualisieren oder den Zugriff einzuschränken, kann einen Korrekturweg bieten, hebt jedoch einen Schaden nicht auf, der durch eine bestimmte Nutzung bereits verursacht wurde.

89. Der praktische Wert von Tests hängt daher vom Zugang, der Zeit, den gewählten Tests und der Befugnis ab, auf deren Ergebnisse zu reagieren.

90. Längere Testphasen können zudem Menschen, die davon profitieren würden, den Nutzen vorenthalten.

91. Kein Laborergebnis allein entscheidet über diesen Kompromiss.

92. Eine militärische Krise bietet weniger Zeit und weniger überprüfbare Beweise.

93. Während der NATO-Übung „Able Archer“ im Jahr 1983 zeigten sowjetische Streitkräfte Anzeichen, die amerikanische Ermittler später als ernsthafte Besorgnis über einen möglichen Angriff interpretierten.

94. Amerikanische Beamte nahmen diese Aktivitäten rechtzeitig nur in zu geringem Umfang wahr.

95. General Leonard Perroots von der US-Luftwaffe entschied sich, auf diese Aktivitäten nicht mit einer entsprechenden Erhöhung der Alarmbereitschaft zu reagieren – eine Entscheidung, die in der späteren Untersuchung gelobt wurde, ohne zu behaupten, er habe ein vollständiges Bild der Lage gehabt.

96. Eine Alarmbereitschaft ist eine Vorsichtsmaßnahme und ein Signal an den Gegner.

97. Das Spiegeln eines ungewissen Signals kann ein weiteres hervorrufen und jeder Seite neuen Grund geben, zu befürchten, was die andere tun könnte.

98. Das Abwarten, um jeden Hinweis zu prüfen, mag unmöglich sein, wenn es auf Minuten oder Stunden ankommt, doch eine reflexartige Eskalation kann den Interpretationsspielraum ebenso schnell einschränken.

99. Der Vorfall liefert keine verlässlichen Zahlen zur Wahrscheinlichkeit eines Atomkriegs, und seine nachträgliche Aufzeichnung ist kein Ersatz für einen umfassenden Einblick in die sowjetische Entscheidungsfindung.

100. Die Lehre daraus liegt in dem Mechanismus, durch den Schutzmaßnahmen Teil der Gefahr werden können, die sie eigentlich eindämmen sollen.

101. Der KI-Test und „Able Archer“ haben das gemeinsame Problem unvollständiger Signale, doch die zur Verfügung stehende Zeit, diese zu prüfen, und die Möglichkeit, eine Reaktion zu korrigieren, unterscheiden sich radikal zwischen einer Software-Veröffentlichung und einer militärischen Konfrontation .

102. Ein KI-Anbieter kann ein Modell ändern, Behörden können Auflagen erteilen und Nutzer können Fehler melden, doch diese unterschiedlichen Befugnisse müssen miteinander verknüpft werden, bevor Erkenntnisse aus dem Einsatz zu einer nützlichen Korrektur führen können.

103. In einer akuten Sicherheitskonfrontation können ein falsch interpretiertes Signal und ein darauf abgestimmter Alarm schneller ablaufen als jede geordnete Untersuchung, während eine katastrophale Eskalation keinen zweiten Versuch zulassen würde.

104. Beide Situationen als ungewiss zu bezeichnen, sagt zu wenig aus.

105. Der sinnvolle Vergleich fragt, welche Unsicherheit vor dem entscheidenden Schritt verringert werden kann, wie lange dieser Schritt warten kann und wessen Befugnis eine schädliche Abfolge unterbrechen kann.

106. Er fragt auch, wer die Kosten eines Fehlalarms trägt und wer die Kosten einer verpassten Warnung, da dieselbe Institution zwar die Befugnis zur Reaktion haben mag, die Folgen jedoch von verschiedenen Gemeinschaften getragen werden.

107. Diese Kosten können auf verschiedene Menschen, über verschiedene Länder und Generationen hinweg, entfallen, und lassen sich nicht immer zu einer einzigen Erwartung mit vertretbaren Zahlen oder vereinbarten moralischen Gewichtungen zusammenfassen.

108. Dieselbe Argumentation verändert die Bedeutung vertrauter Tugenden.

109. Vielfalt kann Alternativen in einem Energiesystem oder einer Institution bewahren, doch redundante Vorkehrungen verbrauchen Ressourcen und können gemeinsam versagen, wenn sie von derselben verborgenen Komponente abhängen.

110. Vorsorge kann einen dauerhaften Schaden verhindern, doch Verzögerung kann selbst schädlich sein, wenn eine behandelbare Krankheit fortschreitet oder eine Stadt weiterhin gefährdet bleibt.

111. Rechtliche Verpflichtungen können Entschädigungen und Aufsicht über Jahre hinweg glaubwürdig machen, insbesondere für Menschen, die einer Institution vertrauen sollen, deren Führung sich ändern kann, während eine Regel, die zu starr ist, um auf neue Erkenntnisse zu reagieren, einen vermeidbaren Fehler aufrechterhalten kann.

112. Ein Experiment kann einen Mechanismus aufdecken, wenn seine Auswirkungen begrenzt sind und beobachtet werden, und wird zu einer unzulänglichen Bezeichnung für eine Maßnahme, deren Folgen die Beobachter übersteigen.

113. Keines dieser Instrumente verdient einen dauerhaften Vorrang vor den anderen.

114. Ihr Wert hängt von der Art des betreffenden Schadens, der verfügbaren Zeit, der Reichweite der Maßnahme und den Personen ab, die eine Korrektur einfordern können.

115. Die letzte Anforderung ist in einem Diagramm oft am wenigsten sichtbar.

116. Ein Versprechen, eine Betriebsregel anzupassen, bedeutet für einen flussaufwärts gelegenen Eigentümer wenig, es sei denn, jemand muss eine Beschwerde entgegennehmen, die Wasserstände untersuchen und handeln, bevor es zu einer weiteren Überschwemmung kommt.

117. Ebenso ist eine Post-Marketing-Studie für spätere Patienten nur dann von Bedeutung, wenn die Ergebnisse die klinische Praxis verändern können und die Informationen sie rechtzeitig erreichen, um ihre Entscheidung zu beeinflussen.

118. Korrektur ist eine Kette von Pflichten, kein beruhigendes Wort, das einem Plan angehängt wird.

119. Einige Glieder dieser Kette müssen bereits vor dem ersten Schaden geschaffen werden, denn danach könnte zu wenig Zeit, Geld oder politische Aufmerksamkeit vorhanden sein, um die Kanäle zu schaffen, über die eine betroffene Person eine Untersuchung und Abhilfe fordern könnte.

120. Deshalb sollte eine notwendige Verpflichtung ihre Grenzen und die Personen festlegen, die befugt sind, sie anzufechten, solange diese Entscheidungen noch Einfluss auf das Ergebnis haben können.

121. Die Worte „Keine Maßnahmen“ im Fargo-Bericht verbergen genau jene Art von vorheriger Entscheidung, die bestimmt, welche Kosten spätere Entscheidungen scheinbar mit sich bringen.

122. Selbst das Nichtstun erhielt eine andere Bedeutung, sobald nicht mehr ein unberührter Fluss, sondern der frühere Entwurf zum Vergleichsmaßstab wurde.

123. Eine Zukunft bleibt offen, wenn die Entscheidungsträger angeben, mit welcher Welt sie vergleichen, wer mit den Auswirkungen leben wird und welche Handlungsmacht verbleibt, wenn sich der erste Vergleich als unvollständig erweist.