10.9 – Mely döntések nem tűnhetnek el – Welche Entscheidungen nicht verschwinden dürfen

1. Az Egyesült Államokban minden egyes felajánlott tüdő esetében a számítógép új sorrendet állíthat össze a transzplantációra váró jelöltek közül, még akkor is, ha a jelöltek rangsora a donor jellemzői függvényében változhat.

2. A sorrend a donortól függően változik, mivel az egyes jelöltek egészségi állapotán túl a kompatibilitás és a szállítás is fontos szempont .

3. A lista élén az a személy áll, akinek a szervet elsőként felajánlhatják.

4. Nincs garancia arra, hogy az a személy meg is kapja a szervet .

5. 2023. március 9. óta a nemzeti tüdőelosztási rendszer egy összetett pontszámot használ az egyes ajánlatokhoz tartozó lista összeállításához, amely a korábbi illesztési kategóriák sorozatát helyettesíti a súlyozott tényezők együttes figyelembevételével .

6. A pontszám mögött álló szabályt az Organ Procurement and Transplantation Network (Szervbeszerzési és Transzplantációs Hálózat) igazgatótanácsa hagyta jóvá 2021 decemberében.

7. Bevezetése emberi döntés volt, amelynek következményei vannak olyan emberekre nézve, akik soha nem találkoznak az igazgatósággal.

8. A számításra másokat bíztak meg; azt viszont nem, hogy mit számoljanak.

9. A sürgősség fontos, de a transzplantáció utáni jó kimenetel valószínűsége is .

10. A biológiai kompatibilitás, egyes jelöltek prioritása, valamint a tüdő egyik kórházból a másikba történő szállításával járó erőfeszítés is beleszámít a pontszámba, így a klinikai becsléseket és a szállítási korlátokat egyetlen rangsorba foglalja.

11. Minden tényező leírható, mérhető és pontozható, ám az ebből adódó sorrend attól függ, hogy milyen súlyt rendelnek hozzájuk – ez a döntés határozza meg, hogy egy előny mennyire kompenzálhatja a másikat .

12. Ha nagyobb súlyt adunk a közvetlen veszélynek, az egyik jelölt előrébb kerülhet .

13. Ha nagyobb súlyt adunk a várható haszonra, egy másik veheti át azt a helyet.

14. A pontosabb orvosi előrejelzések élesebbé tehetik ezt a konfliktust anélkül, hogy megoldanák, mert a kérdés az, hogy mely igények érdemelnek elsőbbséget egy szűkös szerv esetében, amikor egyetlen lehetséges kimenetel sem tud minden várakozót kielégíteni .

15. Ez egy közös szabályról szóló ítélet, nem pedig egy jobb kódra váró számítási hiba.

16. A hálózat etikai bizottsága a hasznosságot, az igazságosságot és az emberi méltóság tiszteletben tartását nevezi meg azok között az elvek között, amelyek között az elosztási politikának egyensúlyt kell teremtenie, egyértelművé téve, hogy a várható orvosi haszon csupán a döntés egyik dimenziója.

17. A hasznosság azt kérdezi, milyen jót tehet egy szerv; az igazságosság azt, hogyan kell elosztani annak előnyeit és terheit azok között a betegek között, akiknek szükségletei, kilátásai és az ellátáshoz való hozzáférésük eltérő.

18. Az emberi méltóság tiszteletben tartása megakadályozza, hogy a betegek puszta tételekké váljanak egy hatékonysági számításban .

19. Ezek az elvek éppen azért fontosak, mert mindegyik olyan szempontot ragad meg, amelyet a többi esetleg kihagy.

20. Sem az ágy mellett álló orvos, sem az eredményeket vizsgáló statisztikus nem tudja mérni ezek relatív erkölcsi erejét úgy, ahogyan például a vér oxigénszintjét mérné .

21. A közjogi szabálynak ezért érthetővé kell tennie az általa végzett kompromisszumokat.

22. A hálózat szakmai és nyilvános véleményeket kért, modellezte a lehetséges hatásokat, és a javasolt irányelvet nyilvános véleményezésre bocsátotta az igazgatótanács jóváhagyása előtt, lehetővé téve, hogy az egymással versengő prioritások felszínre kerüljenek, mielőtt a képlet elkezdte volna a valódi ajánlatok rangsorolását .

23. Ezek a lépések nem garantálják az egyetértést, de oda helyezik a felelősséget, ahol a nézeteltéréseket meghallgathatják és megválaszolhatják.

24. A pontszám ezután az egyes donorajánlatok esetében ismételten és következetesen végrehajtja a jóváhagyott prioritásokat .

25. Ez a következetesség komoly előnyt jelent, amikor sok esetet kell gyorsan elbírálni.

26. Ha minden ajánlat esetében újra meghoznák a diszkrecionális döntést, az hasonló jelöltek eltérő kezelését eredményezhetné olyan okok miatt, amelyeket később senki sem tudna megmagyarázni, különösen akkor, ha a különböző kórházak eltérő nyomásnak vannak kitéve, vagy ugyanazokat a bizonyítékokat eltérően értelmezik.

27. Egy egyértelmű képlet legalább néhány okot feltár.

28. Azt is feltárja, hogy egy látszólag technikai kiigazítás hol változtatná meg, kinek az igénye számít többet .

29. A lista túl későn kezdődik ahhoz, hogy a teljes döntést leírja.

30. A beteget először be kell utalni, értékelni és fel kell venni a várólistára, és ezek a lépések az orvosoktól és a transzplantációs központoktól függenek, mielőtt bármely országos pontszám prioritást biztosíthatna egy adományozott tüdőhöz.

31. Az etikai bizottság megjegyzi, hogy a földrajzi és társadalmi körülmények befolyásolhatják a beutalást, míg a várólistára való felvétel gyakorlata intézményenként eltérő lehet, így a számításból kizárt személyek maguk is részét képezik a méltányossági kérdésnek .

32. A várólistán szereplő jelöltek közötti hibátlan rangsorolás nem változtatna ezeken a korábbi különbségeken .

33. A várólistán szereplő betegre vonatkozóan bevitt adatok is befolyásolják a pontszámot, ezért a pontosság és az időszerű frissítések fontosak.

34. Egy ajánlatot követően a transzplantációs központnak még mindig értékelnie kell a szervet, és el kell döntenie, hogy elfogadja-e azt a betege számára, figyelembe véve azokat a klinikai körülményeket, amelyeket a párosítási listán elfoglalt hely nem tud eldönteni .

35. A legmagasabb pontszám a kezdeti lehetőséget határozza meg, nem pedig a végrehajtott műtétet .

36. Ez a megkülönböztetés megakadályozza azt a kényelmes fikciót, amely szerint kizárólag egy gép választja ki a recipienset.

37. Megakadályozza azt az ellenkező fikciót is, miszerint az orvos későbbi jóváhagyása igazságossá teszi a szabályzatot.

38. Az egész folyamat során emberi kezek jelennek meg, de egyes kezeknek sokkal nagyobb hatalmuk van a végeredmény megváltoztatására, mint másoknak, és az egyik szakaszban meglévő hatáskör nem törli el a másik szakaszban kialakult hátrányt .

39. A releváns kérdés az, hogy minden döntéshozó képes-e megvizsgálni és indokolni azt a részt, amely ténylegesen az ő ellenőrzése alatt áll, hozzáférve azokhoz a bizonyítékokhoz, amelyek szükségesek annak felismeréséhez, hogy mikor vallott kudarcot az a rész.

40. Egy transzplantációs sebész meg tudja ítélni egy felajánlott tüdő azonnali klinikai alkalmasságát anélkül, hogy jogosultsága lenne a nemzeti prioritások átírására.

41. Egy bizottság felülvizsgálhatja a prioritásokat anélkül, hogy minden beteg betegségének magánjellegű lefolyását ismerné .

42. E szerepek összekeverése lehetővé teszi, hogy mindkét csoport a másikra mutasson, amikor a szabály zavaró mintát eredményez .

43. Maga a rendszer is kínál egy kis példát a korrekcióra.

44. 2023 szeptemberében a hálózat megváltoztatta a vércsoport kezelésének módját a tüdőelosztási politikában .

45. A változás azt mutatja, hogy egy közzétett pontozási szabály bevezetése után is módosítható, ahelyett, hogy fellebbezhetetlen ítéletként kezelnék, bár a módosításhoz magához is szükség van arra, hogy eldöntsék, mely megfigyelt egyenlőtlenségek indokolnak eltérő súlyozást .

46. A későbbi nyomon követés feltárhat olyan mintákat, amelyek vizsgálatát érdemes megfontolni, bár a változást követő transzplantációk számának emelkedése vagy csökkenése önmagában nem jelenti azt, hogy az adott változás lenne az oka .

47. Más klinikai gyakorlatok és a rendelkezésre álló donorok összetétele is változhat.

48. A korrekcióhoz nem elég csupán a főbb számadatokat figyelni .

49. Meg kell vizsgálni, hogy mely jelöltek kerültek fel a listára, mely ajánlatokat tettek, melyeket utasítottak el, és hogyan különböztek az eredmények a releváns csoportok között, mielőtt azt állítanánk, hogy a megváltozott képlet javította az elosztási folyamatot .

50. Még így is, a bizonyítékok szűkíthetik a következményekkel kapcsolatos vitát anélkül, hogy minden értékekkel kapcsolatos vitát rendeznének .

51. Az elosztási eset egy okot sugall arra, hogy bizonyos döntéseket láthatóvá tegyünk: ezek határozzák meg, hogyan rangsorolják a közös erőforrásokra vonatkozó komoly igényeket, miközben az érintett emberek nem szerezhetnek egyszerűen egyenértékű alternatívát máshol .

52. Minél mélyebben hat egy szabály az életre, az egészségre, a szabadságra vagy az egyenlő jogállásra, annál erősebb az érv egy azonosítható testület mellett, amely megvédheti azt .

53. Ez nem jelenti azt, hogy minden számításnak meg kell várnia a bizottsági ülést .

54. Azt jelenti, hogy a bizottság nem bújhat el a számítás mögött, amikor a betegek megkérdezik, miért pont ilyenek a súlyozások .

55. A súlyosság ugyanolyan fontos, mint a kockán lévő jog vagy érdek fajtája .

56. Egy visszafordítható időpont-emlékeztetőben elkövetett hiba és egy szervajánlatban elkövetett hiba egyaránt automatizált hiba lehet, de különböző javítási lehetőségeket hagynak maguk után .

57. Az emlékeztetőt újra elküldhetjük; ugyanazt a lehetőséget azonban nem lehet visszaszerezni, miután egy megfelelő szerv máshova került .

58. A bizonytalanság további okot ad a visszafogottságra, amikor egy modellt olyan betegeken, környezeteken vagy körülményeken túl alkalmazzák, amelyekben előrejelzéseit tesztelték, mivel látszólagos pontossága még akkor is fennmaradhat, amikor bizonyítékalapja már rég meggyengült .

59. Ilyen körülmények között az eredmény megjelenése után az emberi aláírás megkövetelése alig nyújt védelmet, hacsak az aláíró nem rendelkezik használható információkkal és cselekvési jogosultsággal .

60. Minél súlyosabb következményekkel jár a döntés, annál kevésbé elfogadható, hogy a felügyelet csupán egy képernyőhöz csatolt névből álljon .

61. Ugyanakkor az a ragaszkodás, hogy egy személy mérlegelje minden sürgős ajánlást, önmagában is veszélyt jelenthet.

62. Egy repülőgép pilótafülkéjében egy ütközésfigyelmeztetés esetén csupán másodpercek maradhatnak a reagálásra .

63. A TCAS II néven ismert forgalomfigyelő és ütközéselkerülő rendszer elemzi a közelben lévő, transzponderrel felszerelt repülőgépeket, és javasolhat egy magassági manővert a távolság fenntartása érdekében, ha a rendelkezésre álló reagálási idő túl rövid ahhoz, hogy minden bejövő adatot újra mérlegeljenek .

64. Utasítását „döntési tanácsnak” nevezik.

65. A Szövetségi Légiközlekedési Hatóság (FAA) arra utasítja a személyzetet, hogy az alkalmazandó eljárások szerint kövessék az ilyen tanácsot, még akkor is, ha az ellentétes a légiforgalmi irányítás utasításával, mert a késedelem csökkentheti a figyelmeztetés védelmi hatását .

66. Ha a munkaterhelés engedi, a személyzet a manőver során tájékoztatja a légiforgalmi irányítást.

67. Ebben az esetben, ha a pilóta megpróbálná minden számítást rekonstruálni, mielőtt cselekedne, az elvenné azt az időt, amelyet a riasztás éppen megtakarítani hivatott, így a felelősségteljes használat a tervezés, a tesztelés és az előzetes képzés révén megszerzett bizalomtól függ.

68. A gép gyors, korlátozott választ ad egy konkrét fizikai problémára .

69. Nem dönti el, miért fontos az ütközés elkerülése, milyen képzésre van szükségük a pilótáknak, vagy mely berendezéseket lehet repülés közben használni; ezek a döntések azoké, akik a riasztás néhány másodpercén túl is mérlegelhetnek .

70. A figyelmeztetés önmagában sem vezeti a repülőgépet.

71. A pilótákra hárul a végrehajtás feladata, míg a légügyi hatóságok és az üzemeltetők előre meghatározzák a szabályokat és felkészítik a személyzetet, az azonnali intézkedéseket és az előzetes biztonsági intézkedéseket egyaránt azonosítható döntéshozókra bízva.

72. Lehet, hogy a legfontosabb emberi döntés már jóval a figyelmeztetés megszólalása előtt megszületett .

73. Ez nem azt jelenti, hogy a szervek rangsorolása és a pilótafülkében megjelenő figyelmeztetés etikai szempontból azonosak lennének .

74. A szervek pontszáma olyan versengő személyeket hasonlít össze, akiknek az igényei nem redukálhatók puszta geometriára; a TCAS viszont egy korábbi biztonsági szabály alapján reagál egy gyorsan kialakuló fenyegetésre.

75. Ez az ellentét mutatja meg, miért is része a rendelkezésre álló idő a döntésnek, és nem csupán kellemetlenséget jelent az emberi felülvizsgálat számára: az a biztonsági intézkedés, amely a cselekvési lehetőség lezárulta után érkezik, egyáltalán nem biztonsági intézkedés.

76. Ahol előzetes mérlegelésre van szükség, annak alakítania kell a rendszer tervezését, a megengedett felhasználási módokat, a képzést és a működés leállításának feltételeit, kellő figyelmet fordítva az előre látható meghibásodásokra, hogy a sebesség ne válhasson a vak bizalom ürügyévé.

77. Ahol van idő az egyes esetek vizsgálatára, az embereknek valódi lehetőségre lehet szükségük a bemeneti adatok megkérdőjelezésére vagy egy kivétel felismerésére, különösen akkor, ha a rendszer szokásos kategóriái rosszul illeszkednek egy adott személyhez .

78. Egyik megoldás sem teszi értékessé az emberi részvételt pusztán azért, mert egy ember jelen van.

79. A részvételnek azon a ponton kell megtörténnie, ahol az ítélet még változtathat valamit.

80. A végrehajtás átruházása azt jelenti, hogy megkérünk egy rendszert egy olyan cél megvalósítására, amelyet a felelősségre vonható személyek már meghatároztak, miközben megőrizzük azt a képességet, hogy ellenőrizzük, vajon működése a gyakorlatban továbbra is szolgálja-e azt a célt.

81. A normatív ítélet átruházása azt jelenti, hogy hagyjuk, hogy a rendszer határozza meg, mely célok vagy igények számítanak, és milyen mértékben, anélkül, hogy lenne olyan intézmény, amely képes lenne megvédeni ezt a választást.

82. Az első elengedhetetlen lehet; a második gyakran az elsőnek álcázza magát.

83. Egy pontszám súlyozását a szabályzat rögzítheti, de az eredmény optimalizálására irányuló döntés magában hordozhat egy kimondatlan nézetet arról, kinek a veszteségei tolerálhatók .

84. Egy ajánlás a gyakorlatban döntéssé is válhat, ha a személyzetnek nincs ideje, önbizalma vagy felhatalmazása arra, hogy eltérjen tőle, függetlenül attól, hogy a szervezeti ábrán hivatalosan hogyan írják le az illető szerepét .

85. A határ tehát a munkafolyamaton halad át, nem pedig egyszerűen a szoftver és az emberek között .

86. Nincs olyan egyetlen küszöbérték, amely minden olyan választást azonosítana, amelynek az emberi felelősség alatt kell maradnia .

87. A releváns szempontok egymást erősítik, bár nem mindig ugyanabba az irányba mutatnak .

88. Az alapvető jogok fokozzák az indoklás iránti igényt, mert egy döntés megváltoztathatja egy személy helyzetét a közintézmények vagy a hatalmas magánintézmények előtt, és az érintett személynek kevés hatalma lehet arra, hogy elkerülje az eredményt.

89. A visszafordíthatatlan következmények növelik a tétet, mert egy későbbi korrekció nem feltétlenül állítja vissza az elvesztett lehetőséget vagy orvosolja a kárt, még akkor sem, ha egy intézmény nyíltan elismeri, hogy eredeti döntése téves volt.

90. A nagyfokú bizonytalanság különös óvatosságot igényel, amikor egy modellnek csekély bizonyítékokból vagy a teszteléshez használtaktól eltérő feltételekből kell következtetnie, különösen akkor, ha egy téves ajánlás ugyanolyan határozottnak tűnik, mint egy jól alátámasztott .

91. Az értékkonfliktus nyilvános érvelést igényel, amikor ésszerű emberek ugyan egyetértenek a tényekben, de mégis eltérő véleményen vannak a megfelelő kompromisszumról, mivel egyetlen további tizedesjegy sem pótolhatja a hiányzó erkölcsi előfeltevést .

92. Ezzel szemben a rövid reagálási idő előnyös lehet egy jól tesztelt automatikus számítás alkalmazása számára, előre kiválasztott határok között.

93. Végül az ellenőrzés csak akkor hasznos, ha valaki releváns információkhoz juthat, felismeri a hibát, és megváltoztathatja az irányt, mielőtt a következmények véglegessé válnának .

94. Ezek a feltételek azt írják le, kire hárul a felelősség, nem pedig egy általános listát adnak a tiltott alkalmazásokról.

95. Egy automatizált szabály néha javíthatja a méltányosságot azáltal, hogy a bejelentett kritériumokat egyformán alkalmazza olyan emberekre, akiket siető vagy előítéletes tisztviselők eltérően kezelnének, feltéve, hogy magukat a kritériumokat is megvizsgálták az igazságtalan hatások szempontjából .

96. Néha javíthatja a biztonságot azáltal, hogy felismer egy mintát, mielőtt bárki elvégezhetné ugyanazt a számítást .

97. Ezek az előnyök ugyanolyan alapos vizsgálatot érdemelnek, mint a hátrányok .

98. Mely hibák csökkennek, melyek maradnak fenn, és melyek jelennek meg újként, amikor egy egységes szabály egyszerre sok esetet kezel?

99. A következetesség megbízhatóvá teheti a jó szabályt, de rendkívüli hatékonysággal terjesztheti a rossz szabályt is, ezért a nyomon követésnek azt kell vizsgálnia, hogy a stabil teljesítmény mögött nem rejtőzik-e a kizárás stabil mintázata .

100. Az emberi mérlegelés észreveheti a szokatlan körülményeket, ugyanakkor el is rejtheti a kedvezményezést, vagy egyenlőtlen mércét is alkalmazhat.

101. Egyik jellemző sem oldja meg a kérdést a tényleges feladatra és az érintett személyekre vonatkozó bizonyítékok nélkül.

102. A jog is hasonlóan szelektív megközelítést tükröz, a következményes automatizálás általános tilalma helyett.

103. Az Európai Unió mesterséges intelligencia törvénye (AI Act) 5. cikkében tilt bizonyos gyakorlatokat, és a 14. cikkben előírja a magas kockázatú szabályoknak megfelelő rendszerek hatékony emberi felügyeletét.

104. Ezek a rendelkezések nem nyilvánítanak minden káros döntést jogellenesnek pusztán azért, mert a szoftver szerepet játszott benne, és nem szabályozzák az amerikai tüdőelosztási politikát .

105. Hasznos megkülönböztetést tesznek a tiltott cél és a megengedett felhasználás között, amelyet úgy kell megtervezni, hogy ellenőrizhető legyen.

106. Az ellenőrzés jelentheti a kimenet ellenőrzését, annak felülírását, a rendszer leállítását, vagy a használat megtagadását olyan környezetben, ahol a rendszer korlátai ismertek.

107. Jelentheti azt is, hogy a szabályzatot módosítják, miután a figyelemmel kísérés során kiderül, hogy fennáll egy tartós hátrány, amelyet az eredeti tervezés nem vett figyelembe .

108. A forma attól függ, hogy mikor lehetséges még a beavatkozás.

109. A pilótafülkében megjelenő figyelmeztetéshez előzetes szabályra és begyakorolt reagálásra van szükség; egy nemzeti allokációs politikához pedig nyilvánosan megvédhető súlyozásokra és azok felülvizsgálatának módjára .

110. Egy beteg számára a pontszám céljával kapcsolatos átláthatóság csak akkor hasznos, ha az intézmény elmagyarázza, mi került be a rangsorba, és hol lehetséges a korrekció .

111. Egy pilóta számára egy küszöbön álló konfliktus közben elhangzó hosszú etikai magyarázat haszontalan lenne; a magyarázat helye a képzésben és az üzemeltetési szabványokban van.

112. Ugyanaz az elszámoltathatósági elv különböző formákat ölt, mert az idő és a lehetséges kár eltérő, és egy komoly tervezésnek oda kell helyeznie az ellenőrzést, ahol az működhet, mielőtt a vonatkozó lehetőség eltűnik.

113. Amikor senki sem tudja valós időben minden esetet megvizsgálni, az elszámoltathatóság leginkább a bevezetés előtt megállapított szabályok minőségétől és az utána összegyűjtött bizonyítékoktól függhet .

114. Ez is az oka annak, hogy a képzettebb gépek nem szüntetik meg az emberi felelősséget.

115. Lehet, hogy gyorsabban számolnak, több mintát ismernek fel, és egy megállapított szabályt hűségesebben alkalmaznak, mint egy fáradt ember.

116. Azonban pusztán egy meggyőző rangsor elkészítésével nem szerezhetnek olyan hatalmat, hogy eldöntsék, milyen veszteségeket kénytelen elviselni egy közösség a tagjai érdekében.

117. Ez a hatalom azoknak az intézményeknek a kezében van, amelyek indokait meg lehet vizsgálni, és amelyek szabályait meg lehet változtatni, ha a bizonyítékok hibát tárnak fel, vagy ha a prioritásokkal kapcsolatos megalapozott nézeteltérés új ítéletet követel.

118. Még a legjobb számításnak is szüksége van a gyakorolt hatáskörök köré húzott határokra, amelyeket olyan emberek rajzolnak meg, akik felelnek azért a határért, amikor annak következményei láthatóvá válnak.

119. A tüdőátültetési rangsor továbbra is jelentős eredmény: egy adott donor esetében az egyik jelöltet a másik elé helyezi.

120. Ami soha nem tűnhet el a számok mögött, az az az intézmény, amely készen áll arra, hogy elmagyarázza, miért érdemes volt ezt a sorrendet kialakítani.

1. Für jede gespendete Lunge in den Vereinigten Staaten kann ein Computer eine neue Rangfolge der Kandidaten erstellen, die auf eine Transplantation warten, auch wenn sich deren relative Priorität je nach den Merkmalen des Spenders verschieben kann.

2. Die Rangfolge ändert sich je nach Spender, da neben dem Gesundheitszustand jedes Kandidaten auch die Kompatibilität und der Transport eine Rolle spielen .

3. An erster Stelle steht eine Person, der das Organ möglicherweise als Erstes angeboten wird.

4. Es gibt keine Garantie, dass diese Person das Organ auch tatsächlich erhält .

5. Seit dem 9. März 2023 verwendet das nationale Lungenzuteilungssystem einen zusammengesetzten Score, um diese Liste für jedes Angebot zu erstellen, und ersetzt damit eine Abfolge älterer Zuordnungskategorien durch gewichtete Faktoren, die gemeinsam berücksichtigt werden .

6. Die Regel hinter diesem Score wurde im Dezember 2021 vom Vorstand des Organ Procurement and Transplantation Network genehmigt.

7. Ihre Einführung war eine menschliche Entscheidung mit Konsequenzen für Menschen, die dem Vorstand niemals begegnen würden.

8. Die Berechnung wurde delegiert; die Entscheidung darüber, was berechnet werden sollte, jedoch nicht.

9. Die Dringlichkeit spielt eine Rolle, aber ebenso die Wahrscheinlichkeit, dass es dem Empfänger nach der Transplantation gut geht.

10. Biologische Kompatibilität, die Priorität bestimmter Kandidaten und der Aufwand, Lungen von einem Krankenhaus in ein anderes zu transportieren, fließen ebenfalls in den Score ein und vereinen so klinische Einschätzungen und Transportbeschränkungen in einer einzigen Rangfolge.

11. Jeder Faktor lässt sich beschreiben, messen und mit Punkten bewerten, doch die daraus resultierende Rangfolge hängt von der Gewichtung ab, die jedem einzelnen zugewiesen wird – eine Entscheidung, die bestimmt, inwieweit ein Vorteil einen anderen ausgleichen kann.

12. Gewichtet man die unmittelbare Gefahr stärker, kann ein Kandidat in der Rangfolge aufsteigen.

13. Gewichtet man den erwarteten Nutzen stärker, kann ein anderer diesen Platz einnehmen.

14. Genauere medizinische Prognosen können diesen Konflikt verschärfen, ohne ihn zu lösen, denn es geht um die Frage, welche Ansprüche auf ein knappes Organ Vorrang verdienen, wenn kein mögliches Ergebnis alle Wartenden zufriedenstellen kann .

15. Das ist eine Beurteilung hinsichtlich einer gemeinsamen Regel, kein Rechenfehler, der auf einen besseren Code wartet .

16. Die Ethikkommission des Netzwerks nennt Nutzen, Gerechtigkeit und Respekt vor der Person als Prinzipien, die die Zuteilungspolitik in Einklang bringen muss, und macht damit deutlich, dass der erwartete medizinische Gewinn nur eine Dimension der Entscheidung ist.

17. Der Nutzen fragt, welchen Nutzen ein Organ bringen kann; die Gerechtigkeit fragt, wie seine Vorteile und Belastungen auf Patienten verteilt werden sollten, deren Bedürfnisse, Aussichten und Zugang zur Versorgung unterschiedlich sind .

18. Die Achtung vor dem Menschen verhindert, dass Patienten zu bloßen Einträgen in einer Effizienzberechnung werden .

19. Diese Prinzipien sind gerade deshalb wichtig, weil jedes einzelne etwas erfasst, was die anderen möglicherweise außer Acht lassen .

20. Weder ein Arzt am Krankenbett noch ein Statistiker, der Ergebnisse untersucht, kann ihre relative moralische Kraft so messen, wie beide etwa den Blutsauerstoffgehalt messen könnten .

21. Die öffentliche Regelung muss daher ihre Abwägungen nachvollziehbar machen.

22. Das Netzwerk holte fachliche und öffentliche Meinungen ein, modellierte mögliche Auswirkungen und legte den Richtlinienentwurf vor der Genehmigung durch den Vorstand zur öffentlichen Stellungnahme vor, sodass konkurrierende Prioritäten zutage treten konnten, bevor die Formel begann, reale Angebote zu ordnen .

23. Diese Schritte können keine Einigung garantieren, aber sie verorten die Verantwortung dort, wo Meinungsverschiedenheiten Gehör finden und beantwortet werden können.

24. Die Bewertungsformel wendet die genehmigten Prioritäten dann wiederholt und konsistent auf die einzelnen Spenderangebote an .

25. Diese Konsistenz ist ein entscheidender Vorteil, wenn viele Fälle schnell geprüft werden müssen.

26. Eine für jedes Angebot neu getroffene Ermessensentscheidung könnte dazu führen, dass ähnliche Kandidaten aus Gründen, die später niemand erklären kann, unterschiedlich behandelt werden – insbesondere wenn verschiedene Krankenhäuser unterschiedlichem Druck ausgesetzt sind oder dieselben Beweise unterschiedlich interpretieren.

27. Eine explizite Formel legt zumindest einige der Gründe offen.

28. Sie macht auch deutlich, wo eine scheinbar technische Anpassung dazu führen würde, dass die Forderung einer bestimmten Person mehr Gewicht erhält .

29. Die Liste setzt zu spät ein, um den gesamten Entscheidungsprozess zu beschreiben.

30. Ein Patient muss zunächst überwiesen, untersucht und auf die Warteliste gesetzt werden, und diese Schritte hängen von Ärzten und Transplantationszentren ab, bevor ein nationales Bewertungssystem Priorität für eine gespendete Lunge zuweisen kann .

31. Die Ethikkommission stellt fest, dass geografische und soziale Bedingungen die Überweisung beeinflussen können, während die Praktiken bei der Aufnahme in die Warteliste zwischen den Einrichtungen variieren können; daher sind die Personen, die aus der Berechnung ausgeschlossen werden, selbst Teil der Frage nach der Fairness.

32. Eine makellose Rangfolge unter den auf der Liste stehenden Kandidaten würde diese früheren Unterschiede unberührt lassen .

33. Die für einen auf der Liste stehenden Patienten eingegebenen Daten beeinflussen ebenfalls die Punktzahl, daher sind Genauigkeit und zeitnahe Aktualisierungen von Bedeutung.

34. Nach einem Angebot muss ein Transplantationszentrum das Organ noch begutachten und entscheiden, ob es für seinen Patienten angenommen wird, wobei klinische Umstände zu berücksichtigen sind, die eine Platzierung auf einer Matching-Liste nicht klären kann .

35. Die höchste Punktzahl bestimmt eine erste Chance, nicht eine vollzogene Operation.

36. Diese Unterscheidung verhindert eine bequeme Fiktion, wonach eine Maschine allein den Empfänger auswählt.

37. Sie verhindert auch die gegenteilige Fiktion, dass die spätere Zustimmung eines Klinikers die Regelung fair macht.

38. Menschliche Hände sind während des gesamten Prozesses präsent, doch manche Hände haben weitaus mehr Macht als andere, das Ergebnis zu beeinflussen, und die Entscheidungsbefugnis in einer Phase hebt einen in einer anderen Phase entstandenen Nachteil nicht auf.

39. Die relevante Frage ist, ob jeder Entscheidungsträger den Teil, der tatsächlich in seiner Kontrolle liegt, prüfen und begründen kann, wobei er Zugang zu den erforderlichen Belegen haben muss, um zu erkennen, wann dieser Teil versagt hat.

40. Ein Transplantationschirurg kann die unmittelbare klinische Eignung einer angebotenen Lunge beurteilen, ohne die Befugnis zu haben, nationale Prioritäten neu festzulegen.

41. Ein Ausschuss kann Prioritäten überarbeiten, ohne den individuellen Krankheitsverlauf jedes einzelnen Patienten zu kennen .

42. Eine Verwechslung dieser Rollen führt dazu, dass jede Gruppe auf die andere verweisen kann, wenn die Regel ein problematisches Muster hervorbringt .

43. Das System selbst bietet ein kleines Beispiel für eine Korrektur.

44. Im September 2023 änderte das Netzwerk die Berücksichtigung der Blutgruppe in den Zuteilungsrichtlinien für Lungen .

45. Die Änderung zeigt, dass eine veröffentlichte Bewertungsregel nach ihrer Einführung revidiert werden kann, anstatt als unanfechtbares Urteil behandelt zu werden, obwohl die Revision selbst eine Beurteilung erfordert, welche beobachteten Ungleichheiten eine andere Gewichtung rechtfertigen .

46. Eine spätere Überwachung kann Muster aufdecken, die es wert sind, untersucht zu werden, obwohl ein Anstieg oder Rückgang der Transplantationen nach einer Änderung allein nicht ausreicht, um diese Änderung als Ursache zu identifizieren .

47. Auch andere klinische Praktiken und die Zusammensetzung der verfügbaren Spender können sich verändern.

48. Eine Korrektur erfordert mehr als nur die Beobachtung einer Gesamtzahl.

49. Es muss untersucht werden, welche Kandidaten in die Liste aufgenommen wurden, welche Angebote unterbreitet wurden, welche abgelehnt wurden und wie sich die Ergebnisse zwischen den relevanten Gruppen unterschieden, bevor behauptet werden kann, dass eine geänderte Formel den Zuteilungsprozess verbessert hat .

50. Selbst dann können Belege eine Auseinandersetzung über die Folgen eingrenzen, ohne jeden Streit über Werte beizulegen .

51. Der Fall der Zuteilung legt einen Grund nahe, bestimmte Entscheidungen transparent zu halten: Sie bestimmen, wie schwerwiegende Ansprüche auf gemeinsame Ressourcen gewichtet werden, während die betroffenen Menschen nicht einfach anderswo eine gleichwertige Alternative erhalten können .

52. Je tiefgreifender eine Regel Leben, Gesundheit, Freiheit oder Gleichberechtigung betrifft, desto stärker spricht vieles für eine identifizierbare Instanz, die sie verteidigen kann.

53. Das bedeutet nicht, dass jede Berechnung auf eine Ausschusssitzung warten muss.

54. Es bedeutet, dass sich der Ausschuss nicht hinter der Berechnung verstecken kann, wenn Patienten fragen, warum die Gewichtungen so sind, wie sie sind .

55. Die Schwere spielt ebenso eine Rolle wie die Art des auf dem Spiel stehenden Rechts oder Interesses .

56. Ein Fehler bei einer reversiblen Terminerinnerung und ein Fehler bei einem Organangebot mögen beide automatisierte Fehler sein, lassen jedoch unterschiedliche Möglichkeiten zur Behebung zu.

57. Eine Erinnerung kann erneut versendet werden; die gleiche Gelegenheit lässt sich jedoch nicht zurückholen, wenn ein geeignetes Organ bereits an einen anderen Empfänger vergeben wurde.

58. Unsicherheit liefert einen weiteren Grund zur Zurückhaltung, wenn ein Modell weit über die Patienten, Umgebungen oder Umstände hinaus angewendet wird, in denen seine Vorhersagen getestet wurden, da seine scheinbare Präzision noch lange bestehen bleiben kann, nachdem seine Beweisgrundlage bereits geschwächt ist .

59. In diesem Zusammenhang bietet die Forderung nach einer menschlichen Unterschrift nach Erscheinen des Ergebnisses möglicherweise nur wenig Schutz, es sei denn, der Unterzeichner verfügt über verwertbare Informationen und die Befugnis zum Handeln.

60. Je folgenschwerer die Entscheidung ist, desto weniger akzeptabel ist es, dass die Kontrolle lediglich aus einem Namen besteht, der auf einem Bildschirm erscheint .

61. Doch das Beharren darauf, dass eine Person jede dringende Empfehlung abwägt, kann selbst eine Gefahr darstellen.

62. Im Cockpit eines Flugzeugs bleiben bei einer Kollisionswarnung oft nur Sekunden für eine Reaktion .

63. Das als TCAS II bekannte Verkehrswarn- und Kollisionsvermeidungssystem analysiert in der Nähe befindliche, mit Transpondern ausgestattete Flugzeuge und kann ein vertikales Manöver empfehlen, um den Sicherheitsabstand aufrechtzuerhalten, wenn die verfügbare Reaktionszeit zu kurz ist, um jede Eingabe neu abzuwägen .

64. Seine Anweisung wird als „Resolution Advisory“ bezeichnet.

65. Die Federal Aviation Administration weist die Besatzungen an, einer solchen Empfehlung gemäß den geltenden Verfahren zu folgen, selbst wenn sie im Widerspruch zu einer Anweisung der Flugsicherung steht, da eine Verzögerung den Schutz durch die Warnung mindern kann .

66. Sofern es die Arbeitsbelastung zulässt, informiert die Besatzung die Flugsicherung während des Manövers.

67. Hier würde der Versuch eines Piloten, jede Berechnung vor dem Handeln nachzuvollziehen, genau die Zeit in Anspruch nehmen, die die Warnung eigentlich einsparen soll; daher hängt eine verantwortungsvolle Nutzung von dem Vertrauen ab, das durch vorherige Konstruktion, Tests und Schulungen gewonnen wurde.

68. Das System liefert eine schnelle, begrenzte Antwort auf ein spezifisches physikalisches Problem.

69. Sie entscheidet nicht darüber, warum die Vermeidung einer Kollision wichtig ist, welche Ausbildung Piloten benötigen oder welche Ausrüstung im Flug verwendet werden darf; diese Entscheidungen obliegen Menschen, die außerhalb der wenigen Sekunden eines Alarms abwägen können.

70. Auch steuert die Warnmeldung selbst das Flugzeug nicht.

71. Die Piloten behalten die Aufgabe, sie auszuführen, während Luftfahrtbehörden und Betreiber Regeln festlegen und die Besatzungen im Voraus vorbereiten, wobei sie sowohl die unmittelbaren Maßnahmen als auch die vorherigen Sicherheitsvorkehrungen identifizierbaren Entscheidungsträgern zuweisen.

72. Die entscheidende menschliche Beurteilung mag bereits lange vor dem Ertönen der Warnung stattgefunden haben .

73. Damit soll nicht behauptet werden, dass eine Organbewertung und eine Cockpit-Warnung ethisch identisch sind .

74. Eine Organbewertung vergleicht konkurrierende Personen, deren Ansprüche sich nicht auf geometrische Größen reduzieren lassen; TCAS reagiert auf eine sich rasch entwickelnde Bedrohung im Rahmen einer vorgegebenen Sicherheitsvorschrift .

75. Der Kontrast zeigt, warum die verfügbare Zeit Teil der Entscheidung ist und nicht bloß eine Unannehmlichkeit für die menschliche Überprüfung darstellt: Eine Sicherheitsmaßnahme, die erst eintrifft, nachdem das Handlungsfenster geschlossen ist, ist überhaupt keine Sicherheitsmaßnahme.

76. Wo eine vorherige Abwägung stattfinden muss, muss sie die Systemgestaltung, die zulässigen Verwendungszwecke, die Schulung und die Bedingungen für die Betriebsunterbrechung prägen, wobei vorhersehbaren Ausfällen genügend Aufmerksamkeit geschenkt werden muss, damit Geschwindigkeit nicht zu einer Ausrede für blindes Vertrauen wird.

77. Wo Zeit bleibt, einen Einzelfall zu prüfen, benötigen Menschen möglicherweise eine echte Chance, die Eingaben anzufechten oder eine Ausnahme zu erkennen, insbesondere wenn die üblichen Kategorien des Systems schlecht zu einer Person passen .

78. Keine der beiden Regelungen macht die menschliche Beteiligung allein deshalb wertvoll, weil ein Mensch anwesend ist.

79. Die Beteiligung muss an dem Punkt erfolgen, an dem das Urteil noch etwas bewirken kann .

80. Die Delegation der Ausführung bedeutet, ein System zu beauftragen, einen Zweck zu erfüllen, den verantwortliche Personen bereits definiert haben, während man sich die Möglichkeit vorbehält, zu prüfen, ob sein Betrieb diesem Zweck in der Praxis noch dient.

81. Die Delegation normativer Beurteilung bedeutet, ein System entscheiden zu lassen, welche Zwecke oder Ansprüche wie stark gewichtet werden sollen, ohne dass eine Institution diese Wahl verteidigen kann.

82. Ersteres kann unverzichtbar sein; Letzteres wird oft als Ersteres getarnt.

83. Die Gewichtungen einer Bewertung mögen durch Richtlinien festgelegt sein, doch die Entscheidung, ein Ergebnis zu optimieren, kann eine unausgesprochene Auffassung darüber beinhalten, wessen Verluste tolerierbar sind.

84. Eine Empfehlung kann in der Praxis auch zu einer Entscheidung werden, wenn den Mitarbeitern die Zeit, das Selbstvertrauen oder die Befugnis fehlt, davon abzuweichen – unabhängig davon, wie die Rolle der Person in einem Organigramm offiziell beschrieben ist .

85. Die Grenze verläuft daher durch einen Arbeitsablauf und nicht einfach zwischen Software und Menschen .

86. Es gibt keinen einzelnen Schwellenwert, der jede Entscheidung identifiziert, die unter der rechenschaftspflichtigen menschlichen Autorität bleiben sollte.

87. Die relevanten Überlegungen verstärken sich gegenseitig, auch wenn sie nicht immer in dieselbe Richtung weisen.

88. Grundrechte erhöhen den Anspruch auf Rechtfertigung, da eine Entscheidung die Stellung einer Person gegenüber öffentlichen oder mächtigen privaten Institutionen verändern kann und die betroffene Person möglicherweise kaum Macht hat, dem Ergebnis zu entkommen.

89. Unumkehrbare Folgen erhöhen den Einsatz, da eine spätere Korrektur die verpasste Chance möglicherweise nicht wiederherstellen oder den Schaden nicht rückgängig machen kann, selbst wenn eine Institution offen einräumt, dass ihre ursprüngliche Entscheidung falsch war.

90. Hohe Unsicherheit erfordert besondere Vorsicht, wenn ein Modell aus spärlichen Belegen oder unter Bedingungen extrapolieren muss, die sich von denen unterscheiden, unter denen es getestet wurde, insbesondere wenn eine fehlerhafte Empfehlung ebenso eindeutig erscheint wie eine gut begründete.

91. Wertkonflikte erfordern eine öffentliche Begründung, wenn sich vernünftige Menschen zwar über die Fakten einig sind, aber dennoch unterschiedlicher Meinung über den angemessenen Kompromiss sind, da keine zusätzliche Dezimalstelle die fehlende moralische Prämisse liefern kann .

92. Ein kurzes Reaktionsfenster hingegen kann eine gut getestete automatische Berechnung innerhalb zuvor festgelegter Grenzen begünstigen.

93. Schließlich ist eine Überprüfung nur dann sinnvoll, wenn jemand relevante Informationen einholen, einen Fehler erkennen und den Kurs ändern kann, bevor die Folgen feststehen.

94. Diese Bedingungen beschreiben, wo die Verantwortung zu verorten ist, und stellen keine universelle Liste verbotener Anwendungsfälle dar.

95. Eine automatisierte Regel kann manchmal die Fairness verbessern, indem sie angekündigte Kriterien einheitlich auf Personen anwendet, die von gehetzten oder voreingenommenen Beamten möglicherweise unterschiedlich behandelt würden – vorausgesetzt, die Kriterien selbst wurden auf ungerechte Auswirkungen geprüft .

96. Sie kann manchmal die Sicherheit verbessern, indem sie ein Muster erkennt, bevor ein Mensch dieselbe Berechnung durchführen könnte.

97. Diese Vorteile verdienen die gleiche Prüfung wie die Nachteile .

98. Welche Fehler nehmen ab, welche bleiben bestehen und welche neuen treten auf, wenn eine einheitliche Regel viele Fälle gleichzeitig bearbeitet?

99. Konsistenz kann eine gute Regel verlässlich machen, aber sie kann auch eine schlechte Regel mit bemerkenswerter Effizienz verbreiten; daher muss bei der Überwachung geprüft werden, ob hinter einer stabilen Leistung ein stabiles Muster der Ausgrenzung verborgen ist .

100. Menschliches Ermessen kann ungewöhnliche Umstände erkennen, aber es kann auch Bevorzugungen verschleiern oder ungleiche Maßstäbe auferlegen.

101. Keines dieser Merkmale klärt die Frage, ohne dass Beweise über die tatsächliche Aufgabe und die betroffenen Personen vorliegen.

102. Das Recht spiegelt einen ähnlich selektiven Ansatz wider und kein pauschales Verbot von folgenreicher Automatisierung .

103. Das KI-Gesetz der Europäischen Union verbietet in Artikel 5 bestimmte Praktiken und verlangt in Artikel 14 eine wirksame menschliche Aufsicht für Systeme, die unter seine Vorschriften für Systeme mit hohem Risiko fallen.

104. Diese Bestimmungen erklären nicht jede schädliche Entscheidung für rechtswidrig, nur weil Software eine Rolle gespielt hat, und sie regeln nicht die amerikanische Politik zur Lungenzuteilung.

105. Ihre nützliche Unterscheidung besteht zwischen einem Zweck, der möglicherweise untersagt ist, und einer zulässigen Nutzung, die auf Kontrollierbarkeit ausgelegt sein muss.

106. Kontrolle kann bedeuten, ein Ergebnis zu überprüfen, es zu überschreiben, ein System zu unterbrechen oder dessen Einsatz in einem Umfeld zu verweigern, in dem dessen Grenzen bekannt sind.

107. Sie kann auch bedeuten, die Richtlinie zu ändern, nachdem bei der Überwachung ein anhaltender Nachteil festgestellt wurde, den das ursprüngliche Design nicht vorhergesehen hat.

108. Die Form hängt davon ab, wann ein Eingreifen noch möglich ist.

109. Eine Warnung im Cockpit erfordert eine vorher festgelegte Regel und eine einstudierte Reaktion; eine nationale Zuteilungsrichtlinie benötigt öffentlich vertretbare Gewichtungen und eine Möglichkeit, diese zu überarbeiten .

110. Für einen Patienten ist Transparenz über den Zweck einer Bewertung nur dann nützlich, wenn die Einrichtung erklären kann, welche Faktoren in die Rangfolge eingeflossen sind und wo Korrekturen vorgenommen werden können .

111. Für einen Piloten wäre eine lange ethische Erklärung während eines unmittelbar bevorstehenden Konflikts nutzlos; die Erklärung gehört in die Ausbildung und in die Betriebsstandards.

112. Dasselbe Prinzip der Rechenschaftspflicht nimmt unterschiedliche Formen an, da die Zeit und der mögliche Schaden variieren, und ein seriöses Konzept muss die Überprüfung dort ansetzen, wo sie wirksam werden kann, bevor die relevante Möglichkeit verschwindet.

113. Wenn niemand jeden Fall in Echtzeit prüfen kann, hängt die Rechenschaftspflicht möglicherweise am meisten von der Qualität der vor dem Einsatz festgelegten Regeln und den anschließend gesammelten Beweisen ab.

114. Das ist auch der Grund, warum leistungsfähigere Maschinen die menschliche Verantwortung nicht einfach verschwinden lassen.

115. Sie mögen schneller rechnen, mehr Muster erkennen und eine festgelegte Regel getreuer anwenden als ein müder Mensch.

116. Sie können jedoch nicht allein durch die Erstellung einer überzeugenden Rangliste die Befugnis erlangen, zu bestimmen, welche Verluste eine Gemeinschaft ihren Mitgliedern zumutet.

117. Diese Befugnis liegt bei Institutionen, deren Gründe überprüft werden können und deren Regeln geändert werden können, wenn Beweise einen Fehler aufdecken oder eine vertretbare Meinungsverschiedenheit über Prioritäten ein neues Urteil erfordert.

118. Selbst die beste Berechnung benötigt eine Grenze für die von ihr ausgeübten Befugnisse, die von Menschen gezogen wird, die für diese Grenze Rechenschaft ablegen, wenn ihre Folgen sichtbar werden.

119. Die Lungen-Matching-Liste bleibt ein aussagekräftiges Ergebnis: Für einen bestimmten Spender stellt sie einen Kandidaten vor einen anderen.

120. Was niemals hinter ihren Zahlen verschwinden darf, ist die Institution, die bereit ist zu erklären, warum es sich gelohnt hat, diese Reihenfolge festzulegen.