15.5 Mesterséges intelligencia: megértés, felelősség és tulajdonítás – Künstliche Intelligenz: Verstehen, Verantwortung und Zuschreibung

1. Képzeljük el, hogy egy nő olyan határozatot kap, amelynek hosszú mondatait alig érti.

2. Megkéri egy mesterséges intelligencia-asszisztenst, hogy egyszerű szavakkal magyarázza el neki a tartalmat.

3. Az asszisztens érthetően elmagyarázza, mit vár el tőle a hatóság, de téves határidőt ad meg a válaszadásra.

4. A nő csak akkor veszi észre a hibát, amikor a tényleges határidő már lejárt.

5. Megbízott az információban, mert a magyarázat válaszolt a kérdéseire, és érthetővé tette a bonyolult részeket.

6. Most azon töpreng, hogy az asszisztens egyáltalán megértette-e a határozatot.

7. Ugyanakkor azt is szeretné tudni, ki felel azért, hogy ő egy téves információra támaszkodott.

8. Mindkét kérdés ugyanabból a csalódásból fakad, de eltérő válaszokat igényel.

9. Amikor valakinek megértést tulajdonítunk, többet mondunk annál, hogy egy adott válasz véletlenül helyesnek bizonyult.

10. A tulajdonítás itt azt jelenti, hogy egy másik személynek olyan képességet vagy tulajdonságot tulajdonítunk, amelyre, úgy véljük, okunk van.

11. Az a személy, aki megérti egy határozatot, képesnek kell lennie például arra, hogy elmagyarázza, melyik állítás határoz meg kötelezettséget, és melyik csupán a háttérkörülményeket ismerteti.

12. Észre kellene vennie azt is, ha egy visszakérdezés megváltoztatja azokat az előfeltételeket, amelyekre első válasza épült.

13. Egy technikai rendszer esetében először ellenőrizhető, hogy valóban képes-e ilyen feladatokat megoldani.

14. A mesterséges intelligencia kifejezés különböző technikai eljárásokat foglal magában, például minták felismerésére, előrejelzésre vagy szövegek és képek előállítására.

15. Ebből a közös elnevezésből sem az következik, hogy ezek a rendszerek mind ugyanazokkal a képességekkel rendelkeznek, sem az, hogy ugyanúgy működnek.

16. Az értelmes kérdés ezért egy konkrét rendszerre, egy konkrét feladatra és azokra a feltételekre irányul, amelyek mellett a rendszer teljesítménye megvalósul.

17. A „megértés” szó sem jelenti mindig ugyanazt a követelményt.

18. Gyakorlati értelemben egy rendszer akkor ért meg egy összefüggést, ha azt különböző feladatok során megfelelően tudja alkalmazni.

19. A határozat esetében ez magában foglalná, hogy megkülönböztesse a határidőt a puszta kiállítási dátumtól, és a megváltozott tervezet esetén újra ellenőrizze az adatot.

20. A funkcionális megközelítés az ilyen képességeket „megértésnek” nevezi, mert a fogalmat annak alapján határozza meg, amit egy rendszer képes teljesíteni.

21. Ezt támasztja alá az a tény is, hogy az emberek esetében is a megértést elsősorban abból ismerjük fel, hogyan magyarázzák el, alkalmazzák és kezelik az ellenvetéseket.

22. Egyetlen hiba nem cáfolja meg a képességet, hiszen még egy szakértő is elnézhet valamit.

23. Ezzel szemben egy sikeres válasz még nem bizonyítja a tartós képességet, ha kissé megváltozott körülmények között kudarcot vall.

24. A funkcionális megközelítés ezért olyan vizsgákat igényel, amelyek túlmutatnak az ismert kérdések ismétlésén.

25. Át lehetne fogalmazni a határozatot, hozzá lehetne adni egy jelentéktelen dátumot, vagy fel lehetne tenni egy kivételt érintő kérdést.

26. Ha a magyarázat ilyen módosítások után is helytálló marad, az jobb indokot szolgáltat arra, hogy a rendszernek korlátozott kompetenciát tulajdonítsunk.

27. Még meggyőzőbb lenne, ha a rendszer képes lenne megfelelően kezelni a feltárt ellentmondást, ahelyett, hogy csupán egy új, ugyanolyan alaptalan választ adna.

28. A bizonytalanság beismerése is csak akkor lenne hasznos, ha az a ténylegesen bizonytalan pontokhoz illeszkedne.

29. Az ilyen vizsgálatok tisztázzák, mire lehet támaszkodni a rendszer használata során.

30. Ugyanakkor még nem döntik el, hogy a rendszer számára maga is jelent-e valamit a kijelentései.

31. Aki a megértéshez saját perspektívát is megkövetel a jelentésre vonatkozóan, az egy továbbmenő kérdést vet fel.

32. A megbízható teljesítmény és ennek a teljesítménynek az élménye különböző állítások, még akkor is, ha az emberi beszélgetés során szorosan összekapcsolódónak tűnnek.

33. Egy igényesebb megközelítés hangsúlyozza, hogy a megértéshez kapcsolatra van szükség a szavak, az életsituációk és a saját indokok között.

34. Aki megérti egy határidőt, az ennek alapján felismeri azt is, hogy annak lejárata mit jelent egy terv szempontjából, és miért fontos az időbeni válasz.

35. A testi tapasztalat és a közös cselekvésekben való részvétel alapvető szerepet játszhat egy ilyen jelentéskapcsolat kialakításában.

36. Ez a nézet felhívja a figyelmet arra, hogy a megfelelő szókapcsolatok önmagukban nem feltétlenül fedik le a különbséget egy magyarázat és annak értelmes használata között.

37. Meg kell azonban indokolnia, hogy mely feltételei szükségesek, és miért szükségesek.

38. Az, hogy az emberi megértés általában egy bizonyos életmódhoz kapcsolódik, még nem bizonyítja, hogy csak ez az életmód teszi lehetővé a megértést.

39. Az ember is megérthet olyan helyzetet, amelyet ő maga soha nem élt át.

40. Ez a kifogás arra kényszerít, hogy a kívánt jelentéskapcsolatot pontosabban határozzuk meg, ahelyett, hogy az emberi hasonlóságot ellenőrizetlen mércének tekintenénk.

41. A bizonytalanság nem szüntethető meg azzal, hogy az asszisztens belső világáról kérdezünk.

42. Egy olyan kijelentés, mint „Megértettem az aggodalmát”, elsősorban nyelvi válasz, amelynek keletkezését és megbízhatóságát meg kell vizsgálni.

43. Önmagában nem szolgáltat független bizonyítékot saját élményre vagy megértésre.

44. Ezzel szemben pusztán a technikai előállításából még nem következik, hogy minden lehetséges élmény kizárt lenne.

45. Még ha egy vizsgálat sok kompetens választ is hozna, akkor is meg kellene indokolni, miért éppen ez a vizsgálat bizonyítja a saját perspektívát.

46. Ha nincs vitathatatlan vizsgálat, ez a hiány sem a lehetséges élmény javára, sem annak rovására nem dönti el a kérdést.

47. Ugyanígy a képesség tulajdonítása sem határozza meg egy rendszer erkölcsi státuszát, vagyis azt, hogy kell-e és milyen tekintetben kell-e önmagáért figyelembe venni.

48. Eközben a határozatot kapott nő számára a téves határidő továbbra is olyan hiba marad, amelynek következményeit kezelni kell.

49. Itt döntő jelentőségűvé válik az ok és a felelősség közötti különbség.

50. Az, hogy az asszisztens téves adatot adott meg, elsősorban az eseménysorozatban betöltött szerepét írja le.

51. A felelősség megállapításához emellett tisztázni kell, kinek volt kötelessége elkerülni a hibát, korlátozni annak hatását, vagy utólag orvosolni azt.

52. A rendszert fejlesztő személyek például felelősségre vonhatók a rendszer felismerhető gyengeségeiért és a képességeiről szóló félrevezető információkért.

53. Egy olyan intézmény viszont, amely a határozatok magyarázatára kínálja szolgáltatásait, indokolnia kell, miért alkalmas erre a célra.

54. Aki ott dönt a rendszer alkalmazásáról, befolyással bír arra, hogy a fontos adatokat ellenőrzik-e, és hogy az érintettek elérhetnek-e egy illetékes személyt.

55. Maga a nő is köteles lehet a kellő gondosságra, de ennek mértéke attól függ, hogy milyen ellenőrzés volt számára lehetséges és elvárható.

56. Ha a szolgáltatás éppen azoknak szól, akik nem tudják maguk átlátni a határozatot, akkor a teljes ellenőrzést nem lehet ellenvetés nélkül visszaadni nekik.

57. Ezzel a felosztással szemben felhozható az az ellenérv, hogy egy komplex rendszerben senki sem ismeri az egész folyamatot.

58. A fejlesztő talán nem ismeri a helyi felhasználást, míg a szolgáltatást nyújtó intézmény nem látja át az egyes válaszok technikai kialakulását.

59. Egy illetékes munkatárs láthatja a kimenetet, de nincs sem elegendő ideje, sem felhatalmazása a szolgáltatás módosítására.

60. Az emberi felelősségre való hivatkozás üres marad, ha csupán az összes érintettet együttesen említi.

61. Egy használható felelősségmegosztásnak meg kell határoznia, ki szerezte be mely információkat, ki hozta meg a döntést, és ki kezdeményezhette a korrekciót.

62. Eközben a tudás és az ellenőrzés nem egyszerűen jelen van vagy hiányzik, hanem az egyes feladatok között oszlik meg.

63. Aki egy beavatkozásról dönt, éppen ezért köteles lehet a hiányzó ismereteket pótolni, vagy ellenőrizhető felelősségi kört létrehozni.

64. Az ilyen feltételek megszervezéséért való felelősség nem követeli meg minden technikai folyamat teljes ismeretét.

65. Az ezzel ellentétes javaslat szerint magát az asszisztenst kell felelős szereplőnek tekinteni.

66. A mindennapi életben az a kijelentés, hogy hibát követett el, teljesen értelmes lehet, mert megjelöli a hibás teljesítés helyét.

67. Az erkölcsi elszámoltathatóság azonban többet igényel, mint a hiba nyelvi megnevezésének lehetőségét.

68. A bocsánatkérésnek össze kell kapcsolódnia azzal a képességgel, hogy felismerje a kötelezettségeket, és vállalja a saját cselekedetei következményeit.

69. Egy előre megfogalmazott bocsánatkérő formula önmagában nem bizonyítja, hogy ezek a feltételek teljesülnek.

70. Ha a formula elhangzása után senki sem ellenőrzi a határidőt, vagy nem segít a nőnek, akkor a gyakorlati felelősség ráhárítása elvéti a célját.

71. Ugyanakkor azok az emberek, akik az ajánlatot kialakítják és ellenőrzik, egy állítólag önállóan felelős partner mögé bújhatnak.

72. Még egy megalapozott, jövőbeli saját felelősség-hozzárendelés sem szüntetné meg önmagában a kiválasztásért, a bevetésért és a felügyeletért viselt felelősségüket.

73. A megértéssel kapcsolatos nyitott kérdés tehát nem akadályozza meg a bevetésről szóló megalapozott döntést.

74. Az asszisztensnek tulajdonítható az a képesség, hogy bizonyos nehéz szakaszokat érthetően elmagyarázzon, feltéve, hogy megfelelő vizsgálatok alátámasztják ezt a teljesítményt.

75. Hogy ez magában foglalja-e a saját perspektívából való megértést is, az egy további kérdés, amelynek megvannak a maga indoklási követelményei.

76. A bizalomnak ezért a vizsgált feladatra kell vonatkoznia, és nem válhat határtalanul a beszélgetési forma megszokottságából fakadóvá.

77. Egy következményekkel járó határidőhöz megbízható vizsgálatra van szükség, amelynek lebonyolítása és illetékessége illeszkedik a felajánlott szolgáltatáshoz.

78. Ha hiba derül ki, az érintetteknek szükségük van egy elérhető szervre, amely kivizsgálja azt és gondoskodik a következményeiről.

79. A nőnek ehhez nem kell először eldöntenie, hogy egy megértő lénnyel beszélt-e.

80. A segítség minősége abban is megmutatkozik, hogy a érthető válasz mögött áll-e valaki, aki kezeskedik annak megbízhatóságáért.

1. Stellen wir uns vor, eine Frau erhält einen Bescheid, dessen lange Sätze sie kaum versteht.

2. Sie bittet einen KI-Assistenten, ihr den Inhalt in einfachen Worten zu erklären.

3. Der Assistent erläutert nachvollziehbar, was die Behörde von ihr verlangt, nennt aber eine falsche Frist für ihre Antwort.

4. Die Frau bemerkt den Fehler erst, als die tatsächliche Frist bereits verstrichen ist.

5. Sie hatte der Auskunft vertraut, weil die Erklärung auf ihre Rückfragen einging und die schwierigen Stellen verständlich machte.

6. Nun fragt sie sich, ob der Assistent den Bescheid überhaupt verstanden hat.

7. Zugleich möchte sie wissen, wer dafür einstehen muss, dass sie sich auf eine falsche Angabe verlassen hat.

8. Beide Fragen entstehen aus derselben Enttäuschung, verlangen jedoch unterschiedliche Antworten.

9. Wenn wir jemandem Verstehen zuschreiben, sagen wir mehr, als dass eine einzelne Antwort zufällig richtig ausgefallen ist.

10. Zuschreibung bedeutet hier, einem Gegenüber eine Fähigkeit oder Eigenschaft zuzuerkennen, für die wir Gründe zu haben meinen.

11. Ein Mensch, der einen Bescheid versteht, sollte etwa erklären können, welche Aussage eine Verpflichtung festlegt und welche nur den Hintergrund erläutert.

12. Er müsste auch bemerken können, wenn eine Rückfrage Voraussetzungen verändert, auf denen seine erste Antwort beruhte.

13. Bei einem technischen System lässt sich zunächst prüfen, ob es solche Aufgaben tatsächlich bewältigt.

14. Die Bezeichnung künstliche Intelligenz umfasst unterschiedliche technische Verfahren, etwa zur Erkennung von Mustern, zur Vorhersage oder zur Erzeugung von Texten und Bildern.

15. Aus dieser gemeinsamen Bezeichnung folgt weder, dass alle diese Systeme dieselben Fähigkeiten besitzen, noch, dass sie auf dieselbe Weise arbeiten.

16. Die sinnvolle Frage richtet sich deshalb auf ein bestimmtes System, eine bestimmte Aufgabe und die Bedingungen, unter denen seine Leistung zustande kommt.

17. Auch das Wort Verstehen bezeichnet nicht immer denselben Anspruch.

18. In einem praktischen Sinn versteht ein System einen Zusammenhang, wenn es ihn über verschiedene Aufgaben hinweg angemessen verwenden kann.

19. Im Bescheidfall würde dazu gehören, eine Frist von einem bloßen Ausstellungsdatum zu unterscheiden und die Angabe bei einer veränderten Vorlage erneut zu prüfen.

20. Eine funktionale Auffassung nennt solche Fähigkeiten Verstehen, weil sie den Begriff durch das bestimmt, was ein System leisten kann.

21. Dafür spricht, dass wir auch bei Menschen Verstehen wesentlich daran erkennen, wie sie erklären, anwenden und mit Einwänden umgehen.

22. Ein einzelner Fehler widerlegt eine Fähigkeit nicht, denn auch eine sachkundige Person kann etwas übersehen.

23. Umgekehrt beweist eine gelungene Antwort noch keine tragfähige Fähigkeit, wenn sie unter geringfügig veränderten Bedingungen zusammenbricht.

24. Die funktionale Auffassung benötigt deshalb Prüfungen, die über die Wiederholung bekannter Fragen hinausgehen.

25. Man könnte den Bescheid umformulieren, ein unwichtiges Datum hinzufügen oder eine Rückfrage stellen, die eine Ausnahme betrifft.

26. Bleibt die Erklärung unter solchen Veränderungen sachgerecht, gibt das einen besseren Grund, dem System eine begrenzte Kompetenz zuzuschreiben.

27. Noch aussagekräftiger wäre, ob es einen aufgezeigten Widerspruch angemessen bearbeiten kann, statt lediglich eine neue, ebenso unbegründete Antwort zu liefern.

28. Auch das Eingeständnis einer Unsicherheit wäre nur dann hilfreich, wenn es zu den tatsächlich unsicheren Stellen passt.

29. Solche Prüfungen klären, worauf man sich bei einer Verwendung verlassen darf.

30. Sie entscheiden jedoch nicht schon, ob für das System selbst etwas mit seinen Äußerungen gemeint ist.

31. Wer unter Verstehen zusätzlich eine eigene Perspektive auf Bedeutung verlangt, stellt eine weitergehende Frage.

32. Eine zuverlässige Leistung und ein Erleben dieser Leistung sind verschiedene Behauptungen, auch wenn sie beim menschlichen Gespräch eng verbunden erscheinen.

33. Eine anspruchsvollere Auffassung betont, dass Verstehen einen Bezug zwischen Worten, Lebenssituationen und eigenen Gründen benötigt.

34. Wer eine Frist versteht, erkennt danach auch, was ihr Verstreichen für ein Vorhaben bedeutet und weshalb eine rechtzeitige Antwort wichtig ist.

35. Körperliche Erfahrung und Teilnahme an gemeinsamen Handlungen könnten für einen solchen Bedeutungsbezug eine grundlegende Rolle spielen.

36. Diese Auffassung macht darauf aufmerksam, dass passende Wortverbindungen allein den Unterschied zwischen einer Erklärung und ihrem verständigen Gebrauch nicht erfassen müssen.

37. Sie muss aber begründen, welche ihrer Bedingungen notwendig sind und weshalb sie notwendig sind.

38. Dass menschliches Verstehen gewöhnlich mit einer bestimmten Lebensweise verbunden ist, beweist noch nicht, dass nur diese Lebensweise Verstehen ermöglicht.

39. Auch ein Mensch kann eine Situation verstehen, die er selbst nie erlebt hat.

40. Der Einwand zwingt dazu, den verlangten Bedeutungsbezug genauer zu bestimmen, statt menschliche Ähnlichkeit zum ungeprüften Maßstab zu machen.

41. Die Unsicherheit lässt sich nicht dadurch beseitigen, dass man den Assistenten nach seinem Inneren fragt.

42. Eine Äußerung wie „Ich habe Ihre Sorge verstanden“ ist zunächst eine sprachliche Antwort, deren Entstehung und Verlässlichkeit untersucht werden müssen.

43. Sie liefert für sich keinen unabhängigen Nachweis eines eigenen Erlebens oder Verständnisses.

44. Umgekehrt folgt aus ihrer technischen Erzeugung allein noch kein Beweis, dass jedes mögliche Erleben ausgeschlossen wäre.

45. Selbst wenn eine Prüfung viele kompetente Antworten hervorbrächte, bliebe zu begründen, weshalb gerade diese Prüfung eine eigene Perspektive nachweist.

46. Fehlt eine unstrittige Prüfung, entscheidet dieses Fehlen die Frage weder zugunsten noch zulasten möglichen Erlebens.

47. Ebenso wenig legt die Zuschreibung einer Fähigkeit bereits den moralischen Status eines Systems fest, also ob und in welcher Hinsicht es um seiner selbst willen berücksichtigt werden müsste.

48. Für die Frau mit dem Bescheid bleibt währenddessen die falsche Frist ein Fehler, dessen Folgen bearbeitet werden müssen.

49. Hier wird der Unterschied zwischen einer Ursache und einer Verantwortung entscheidend.

50. Dass der Assistent die falsche Angabe ausgegeben hat, beschreibt zunächst seinen Beitrag zum Ablauf.

51. Für Verantwortung muss zusätzlich geklärt werden, wer eine Pflicht hatte, den Fehler zu vermeiden, den Einsatz zu begrenzen oder nachträglich Abhilfe zu schaffen.

52. Menschen, die das System entwickeln, könnten beispielsweise für erkennbare Schwächen und irreführende Angaben über seine Fähigkeiten einstehen müssen.

53. Eine Einrichtung, die es zur Erklärung von Bescheiden anbietet, muss dagegen begründen können, weshalb es für diesen Zweck geeignet ist.

54. Wer dort über seinen Einsatz entscheidet, hat Einfluss darauf, ob wichtige Angaben überprüft werden und ob Betroffene eine zuständige Person erreichen können.

55. Die Frau selbst kann zur Sorgfalt verpflichtet sein, doch deren Umfang hängt davon ab, welche Prüfung ihr möglich und zumutbar war.

56. Wenn das Angebot gerade Menschen helfen soll, die den Bescheid nicht selbst durchdringen, lässt sich ihnen die gesamte Prüfung nicht ohne Widerspruch zurückgeben.

57. Gegen diese Zuordnung lässt sich einwenden, dass in einem komplexen System niemand den ganzen Ablauf beherrscht.

58. Die Entwicklerin kennt vielleicht die örtliche Verwendung nicht, während die bereitstellende Einrichtung das technische Zustandekommen einzelner Antworten nicht durchschaut.

59. Eine zuständige Mitarbeiterin könnte die Ausgabe sehen, aber weder genügend Zeit noch die Befugnis haben, das Angebot zu verändern.

60. Der Hinweis auf menschliche Verantwortung bleibt dann leer, wenn er bloß alle Beteiligten gemeinsam nennt.

61. Eine brauchbare Zuordnung muss angeben, wer welche Informationen beschaffen, welche Entscheidung treffen und welche Korrektur veranlassen konnte.

62. Dabei sind Kenntnis und Kontrolle nicht einfach vorhanden oder abwesend, sondern auf einzelne Aufgaben verteilt.

63. Wer über einen Einsatz entscheidet, kann gerade deshalb die Pflicht haben, fehlendes Wissen einzuholen oder eine überprüfbare Zuständigkeit zu schaffen.

64. Verantwortung für die Organisation solcher Bedingungen verlangt keine vollständige Beherrschung jedes technischen Vorgangs.

65. Der entgegengesetzte Vorschlag lautet, den Assistenten selbst als verantwortlichen Akteur anzusehen.

66. Im Alltag kann die Aussage, er habe einen Fehler gemacht, durchaus sinnvoll sein, weil sie den Ort einer fehlerhaften Leistung bezeichnet.

67. Moralische Rechenschaft verlangt jedoch mehr als die Möglichkeit, einen Fehler sprachlich zu benennen.

68. Eine Entschuldigung müsste mit der Fähigkeit verbunden sein, Verpflichtungen zu erfassen und für die Folgen des eigenen Handelns einzustehen.

69. Eine erzeugte Entschuldigungsformel allein zeigt nicht, dass diese Voraussetzungen erfüllt sind.

70. Wenn nach der Formel niemand die Frist prüft oder der Frau weiterhilft, hat die Zuschreibung praktischer Verantwortung ihr Ziel verfehlt.

71. Zugleich könnten sich die Menschen, die das Angebot gestalten und kontrollieren, hinter einem angeblich selbstverantwortlichen Gegenüber verbergen.

72. Auch eine begründete zukünftige Zuschreibung eigener Verantwortung würde ihre Verantwortung für Auswahl, Einsatz und Aufsicht nicht von selbst aufheben.

73. Die offene Frage nach Verstehen verhindert somit keine begründete Entscheidung über den Einsatz.

74. Man kann dem Assistenten die Fähigkeit zuschreiben, bestimmte schwierige Passagen verständlich zu erläutern, sofern geeignete Prüfungen diese Leistung tragen.

75. Ob damit auch Verstehen aus eigener Perspektive verbunden ist, bleibt eine zusätzliche Frage mit eigenen Begründungsanforderungen.

76. Vertrauen sollte sich deshalb auf die geprüfte Aufgabe beziehen und nicht durch die Vertrautheit der Gesprächsform grenzenlos werden.

77. Für eine folgenreiche Frist braucht es eine verlässliche Prüfung, deren Durchführung und Zuständigkeit zum angebotenen Dienst passen.

78. Kommt ein Fehler ans Licht, brauchen Betroffene eine erreichbare Stelle, die ihn untersucht und sich um seine Folgen kümmert.

79. Die Frau muss dafür nicht zuerst entscheiden, ob sie mit einem verstehenden Wesen gesprochen hat.

80. Die Qualität der Hilfe zeigt sich auch daran, ob hinter der verständlichen Antwort jemand für ihre Verlässlichkeit einsteht.