7-1-das-neue-erleben

1. Képzeld el, hogy háromféleképpen kell megfogalmaznod egy bonyolult, de mindennapi mondatot egy e-mailben.

2. Alternatívákat kérsz egy mesterséges intelligencia rendszertől, és másodpercek alatt felajánl egy közvetlen, egy finomabb és egy rövidebb változatot, amelyek mindegyike más-más megoldást kínál ugyanazon bonyolult kérdés kezelésére.

3. Egyiket sem kell feltétlenül úgy elfogadnod, ahogy meg van írva.

4. Tudod, mit akarsz mondani, és van némi ismereted az üzenet címzettjéről, így minden javaslatot összehasonlíthatsz ezekkel az ismeretekkel, mielőtt kiválasztanál vagy megváltoztatnál egy szót.

5. A gép kiszélesítette a választási lehetőségeidet anélkül, hogy eldöntötte volna, mit is akarsz mondani.

6. Ebben az esetben a „szerszám” elnevezés jól leírja a kapcsolatot: te adod meg a célt, olyan lehetőségekkel találkozol, amelyekre egyedül talán nem jutottál volna, és a saját szándékod alapján ítéled meg az eredményt.

7. Ez a kép azonban hiányos, mert egy kalapács nem sugall más módszert a problémád leírására.

8. Ugyanakkor ez a hiányosság ebben az esetben ártalmatlan lehet.

9. A belső kép célja az, hogy irányt mutasson a következő lépésedhez – ami lehet egy kimenet összehasonlítása, megkérdőjelezése vagy elutasítása –, nem pedig az, hogy a gép minden rejtett műveletét reprodukálja.

10. Amint a következő lépés megváltozik, hasznosságát újra kell vizsgálni.

11. Tegyük fel, hogy ugyanaz a képernyő most egy másik kérést kap: melyik évben lépett hatályba egy bizonyos történelmi megállapodás?

12. A rendszer egy dátummal és egy érthető magyarázattal válaszol.

13. A nyelvezete nagyon hasonlít ahhoz a segítőkész prózához, amelyet az e-mailedhez generált, de a két válasz eltérő dolgot kér tőled, mert az egyik választási lehetőséget kínál, a másik pedig a világ leírására törekszik.

14. Az első feladatban egy hihető mondat olyan anyag volt, amelyet a saját szándékodhoz viszonyítva ellenőrizhettél.

15. A másodikban a hihetőség nem elegendő a dátum megállapításához.

16. A döntő összehasonlítás a válaszon kívülre esik, a megállapodás megbízható nyilvántartásában, valamint a felek által aláírt dátum és a hatálybalépés dátuma közötti különbségben rejlik.

17. Egy kellemes válasz is téves lehet, még akkor is, ha minden mondatrésze átgondoltnak tűnik.

18. Ez nem ok arra, hogy elvetjük a gép hasznos első hozzájárulását, mivel alternatív megfogalmazásai még mindig megfontolásra érdemesek lehetnek; ez inkább ok arra, hogy megváltoztassuk azt a keretet, amelyben dolgozunk, amikor a feladat megváltozik.

19. A NIST a magabiztosan állított hamis tartalmat a generatív mesterséges intelligencia egyik lehetséges kockázataként írja le.

20. Arra is figyelmeztet, hogy az emberek túl könnyen hajlamosak elfogadni egy automatizált eredményt, vagy túl könnyen elutasítani a hasznos segítséget.

21. Egyik reakció sem a rendszer tényleges megbízhatóságának mércéje.

22. A saját feladatod jelzi, hogy a kimenet mely része olyan javaslat, amelyet szabadon átalakíthatsz, és melyik részét bizonyítékokkal kell alátámasztani, mielőtt felelősségteljesen továbbadhatnád.

23. A belső modell azzal érdemli ki a helyét, hogy javítja ezt a megkülönböztetést.

24. Gondolj a rendszerre úgy, mint egy asszisztensre, miközben az e-mail-változatokat generálod.

25. Egy asszisztens vázlatokat kínálhat, követheti a megadott preferenciákat, és javított változatokkal térhet vissza, ha egy kifejezés nem adja vissza a kívánt hangnemet.

26. Ez a kép inkább a párbeszédet ösztönzi, mint egy egyszeri parancsot.

27. Ezenkívül természetessé teszi a célközönség, a cél és a korlátok megadását is, mivel egy emberi asszisztensnek szüksége lenne ezekre a részletekre ahhoz, hogy megkülönböztesse a hasznos javítást egy olyan kifinomult mondattól, amely rossz célt szolgál.

28. Ennek a hasznosságnak semmi sem bizonyítja, hogy a rendszer úgy ismerné a körülményeidet, ahogyan egy kolléga tenné.

29. Válasza figyelmesnek tűnhet, miközben figyelmen kívül hagy egy kimondatlan tényt az e-mail címzettjéről, például egy nézeteltérést, ami miatt egy egyébként udvarias kifejezés kitérőnek hangzik.

30. Ha az üzenet fontos egy kapcsolat szempontjából, akkor továbbra is te vagy az, aki ismeri a kapcsolatot, és neked kell meghoznod a szóválasztást.

31. Az „asszisztens” kép segít a munka szervezésében, amíg csendben nem hoz be több ítélkezést, mint amennyit a párbeszéd indokolna.

32. Az „eszköz” szó némileg korrigálja ezt az eltérést.

33. Ez szem előtt tartja a felhasználó célját, és a javítást a használat szokásos részévé teszi, még akkor is, ha a javasolt mondat annyira természetesen hangzik, hogy gondolkodás nélkül könnyebb lenne elfogadni.

34. Az eszköz azonban nem mindig passzív, ahogyan egy toll passzív.

35. Amikor egy enyhébb kifejezést javasol, a figyelmedet olyan helyzetértelmezés felé irányíthatja, amelyet eddig nem vettél figyelembe.

36. Érdemes lehet meghallgatni a javaslatot, de a meghallgatás nem azonos a befogadásával.

37. Az értékes határ abban rejlik, hogy képes vagy a javaslatot olyasvalamivel összevetni, amivel a gép nem rendelkezik ugyanúgy, mint te – legyen az a szándékod vagy egy független feljegyzés.

38. Az e-mailes feladatban ez a valami a te szándékod és a címzettel kapcsolatos ismereteid.

39. A történelmi kérdés esetében ez a dokumentumalapú feljegyzés.

40. A képernyő azonosnak tűnik, miközben a releváns hiteles forrás változik.

41. Ezt a változást könnyű figyelmen kívül hagyni, mert mindkét kimenet kifinomult nyelvezettel jelenik meg.

42. A folyékonyság a bemutatás jellemzője, nem pedig a tényekhez csatolt tanúsítvány.

43. A kísértés, hogy a rendszert autopilótnak nevezzük, egyre növekszik, amikor válasai gyakran kényelmesek.

44. Ezen a kép alapján az ember megad egy célállomást, és elvárja, hogy a közbenső döntéseket máshol kezeljék.

45. A rutinlépések korlátozott figyelem melletti végrehajtásának metaforájaként ez az automatizálás valódi vonzerejét ragadja meg, különösen akkor, amikor a rendszer számos hasznos vázlatot állít elő, és arra készteti az embert, hogy minden kérés esetén ugyanazt a könnyedséget várja el.

46. Ugyanakkor felvet egy olyan kérdést is, amelyre a metafora önmagában nem tud válaszolni: ki veszi észre, ha az útvonal helytelen?

47. Ez semmit sem mond a valódi repülőgép-autopilóta mért teljesítményéről.

48. A veszély abból fakad, hogy egy olyan feladatba, amelynek tényállását még nem ellenőrizték, a biztos felügyelet érzését vetítjük be, miközben azt képzeljük, hogy a kérdésről a válaszra való zökkenőmentes átmenet magában foglalja az állításról a bizonyítékra való átmenetet is.

49. Egy sor lehetséges e-mail-bevezető esetében nyugodtan átfuthatjuk a javaslatokat, és elutasíthatjuk azokat, amelyek helytelennek tűnnek.

50. A megállapodás hatálybalépési dátumát illetően egy gyors pillantás az elegáns szövegre nem fogja feltárni egy hihető, de helytelen évet.

51. A feladat másfajta ellenőrzést igényel, és a rendszer magabiztos stílusa nem nyújt ilyet.

52. Még a válaszban megnevezett forrás is csupán nyom, amíg meg nem találja, és meg nem győződik arról, hogy alátámasztja-e az adott állítást, mivel egy valódi dokumentumot olyan állításra is hivatkozhatnak, amelyet az nem támaszt alá.

53. Ha a megállapodásnak van aláírási dátuma, ratifikációs dátuma és hatálybalépési dátuma, az év ellenőrzése azt is megköveteli, hogy megvizsgáljuk, melyik eseményről volt szó – ez a megkülönböztetés eltűnhet egy nyelvtani szempontból tökéletesen magabiztos válaszban.

54. Egy egysoros válasz látszólagos egyszerűsége elrejtheti ezt a különbséget.

55. Az „autopilóta” kép ártalmatlan lehet, ha egy visszavonható tervezet delegálását és annak használat előtti áttekintését jelenti.

56. Téves képet ad, ha úgy tűnik, mintha az áttekintés már benne lenne a válasz elkészítésében.

57. Mit kell tehát az embernek átvinnie az egyik feladatból a másikba?

58. Nem egy állandó címkét a gép számára, hanem egy rövid leírást arról, mire jó ez a konkrét kimenet, mit hagy tesztelés nélkül, és hol kell az embernek újra átvennie a munkát.

59. A leírás változhat, miközben a szoftver változatlan marad.

60. Ez a mentális modell a leghasznosabb formájában: egy szelektív vázlat, amely összekapcsol egy cselekvést egy elvárással, elég világos ahhoz, hogy segítsen a munkában, és elég szerény ahhoz, hogy módosítható legyen, ha a munka megváltozik.

61. A metró térkép nem ábrázolja az utcák alakját, mert az utasnak tudnia kell, hol kell átszállnia.

62. Ha azonban az utas kerekesszékkel megközelíthető bejáratot keres, ugyanaz a térkép pontosan a szükséges információt hagyhatja ki.

63. Értéke az utazástól függ.

64. Hasonlóképpen, egy jó kép a mesterséges intelligenciáról kihagyja a mechanizmus nagy részét, de meg kell őriznie a szóban forgó döntéshez szükséges megkülönböztetéseket, beleértve a nyelvi javaslat és a tény megállapítása közötti különbséget is.

65. A kép hiányos, ha elrejti azt a kérdést, amelyet a feladat megkövetel, hogy feltegyünk.

66. Szövegszerkesztés esetén a hiányzó kérdés az lehet, hogy a javasolt kifejezés olyasmit állít-e, amiben nem hiszünk.

67. Egy történelmi dátum esetében az lehet, hogy egy azonosítható dokumentum megerősíti-e a megnevezett konkrét eseményt.

68. Ezek különböző hibák, bár mindkettő ugyanazon a kellemes látszat alatt rejlhet.

69. A „szószámológép” képe egy korrekciót kínál: eloszlatja azt a feltételezést, hogy a természetes nyelv automatikusan magában hordozza a személyes megértést.

70. Arra ösztönöz, hogy alaposan vizsgáljuk meg a bemenet és a kimenet közötti kapcsolatot, és egy különálló szabványhoz viszonyítva ellenőrizzük a választ – ez hasznos emlékeztető, amikor a válasz magabiztos bekezdés formájában jelenik meg.

71. A hagyományos számológépek azonban meghatározott mennyiségekkel és műveletekkel dolgoznak, így az analógia olyan pontosságot ígérhet, amellyel egy nyitott végű válasz nem rendelkezik, különösen akkor, ha magának a kérdésnek is több elfogadható értelmezése létezik.

72. Nincs egyetlen aritmetikai kulcs arra, hogy eldöntsük, egy mondat tapintatos-e, vagy egy forrást méltányosan értelmeztek-e.

73. Ha a rendszert túl szó szerint „szószámológépnek” nevezzük, akkor elvárhatjuk, hogy minden jól megfogalmazott lekérdezés határozott, ellenőrizhető eredményt adjon.

74. A kifejezés csak akkor hasznos, ha élesebbé teszi az ellenőrzés kérdését.

75. Egy másik kép, az „elme külső vázszerkezete”, egy másik előnyre utal.

76. A külső váz olyan támaszt sugall, amely lehetővé teszi, hogy az ember nagyobb hatótávolsággal vagy kevesebb erőfeszítéssel végezzen el egy feladatot, miközben továbbra is ő irányítja a mozgást, és fel kell ismernie azt a környezetet, amelyben mozog.

77. Az e-mail esetében ez az analógia jól leírja, hogy a további megfogalmazási lehetőségek hogyan enyhítik azt a terhet, hogy meg kell találni az első elfogadható mondatot, különösen akkor, ha a habozás abból fakad, hogy egy kényes kérdés kifejezésére több is elfogadható mód létezik.

78. Megtévesztővé válik, ha a nagyobb könnyedséget összetévesztik a nagyobb bölcsességgel.

79. Az erőteljesebb lépés nem mondja meg, hová kell menni, és a gyorsabb vázlat sem dönti el, mit kellene mondani.

80. Ugyanígy egy mechanikus kép sem bizonyíthatja, hogy egy gép osztozik az emberi élményben pusztán azért, mert kimenete segít az embernek gondolkodni.

81. Minden metafora egy kapcsolatot választ ki.

82. Az eszköz a célt hangsúlyozza, a segéd a cserét sugallja, a számológép ellenőrzést kér, az autopilóta pedig a felügyelet kérdését veti fel.

83. Az exoskeleton a kibővített képességet emeli ki, de egyúttal a döntés helyét is különösen fontossá teszi.

84. Egyik sem a rendszer technikai leltára.

85. Értékük abban rejlik, hogy milyen viselkedést váltanak ki, amikor egy konkrét feladat merül fel, mert egy olyan metafora, amely a tervezés során éberen tart, téves magabiztosságot kelthet, amikor a tényleges válasz megérkezik.

86. Az, aki a választ az asszisztens javaslatának nevezi, módosíthatja azt; az, aki az autopilóta döntésének nevezi, talán elfogadja úgy, ahogy van.

87. Ezek az igék fontosabbak, mint maguk a címkék.

88. A címkék azonban nem kényszerítenek mindenki számára azonos viselkedésre, és ugyanaz a személy is használhat egy ismerős szót, miközben gondos ellenőrzéseket végez.

89. A metaforát annak alapján kell megítélnünk, hogy milyen elvárásokat kelt a kontextusban, ahelyett, hogy úgy tennénk, mintha egy szó irányítaná a használóját, vagy mintha minden hallgató ugyanazt a tanulságot vonná le egy ismerős összehasonlításból.

90. Az összehasonlítás azt is megmagyarázza, miért nem feltétlenül a legszebb metafora a legbiztonságosabb.

91. Egy emlékezetes kép éppen azért lehet könnyen felidézhető, mert elnyomja a kínos kivételeket.

92. Például az asszisztens képe addig kényelmesnek tűnik, amíg a gép ugyanazzal a segítőkész hangon nem ad ténybeli választ, mint amellyel az ötletelés során beszélt.

93. Ekkor a képnek látható margóra van szüksége: ez az asszisztens ugyan generálhat egy lehetséges választ, de a magabiztossága nem helyettesítheti a dokumentációt, és a segítőkész hangneméből nem derül ki, mely állítást ellenőrizték.

94. A korlát a modell része, nem pedig a eszköz használatának mentegetőzése.

95. El lehetne utasítani a történelmi kérdést teljesen, de ezzel figyelmen kívül hagynánk a tentative válasz lehetséges felhasználását, mint nyomra arra, hogy mit kell vizsgálni – feltéve, hogy a nyom nem válik csendben éppen azzá a bizonyítékká, amelyet fel kellett volna tárnia.

96. El lehetne fogadni a dátumot azonnal, de ez a hiányzó bizonyítékok pótlása nélkül a nyomot következtetéssé változtatná.

97. Ezen választási lehetőségek között rejlik a kimenet szerepének pontosabb leírása.

98. Segíthet a kutatás kereteinek kijelölésében, miközben a ténykérdés nyitott marad.

99. A helyzet ismét megváltozik, ha nincs hozzáférhető megbízható feljegyzés, vagy ha az „hatékony” szónak több jelentése is van a vonatkozó kontextusban, mert a becsületes eredmény egy szűkebb állítás vagy egy megválaszolatlan kérdés lehet.

100. Ilyenkor még egy máshonnan származó, hihető dátumot sem szabad olyan bizonyossággá erőltetni, amelyet a bizonyítékok nem támasztanak alá.

101. A belső képnek teret kell adnia ennek a befejezetlen állapotnak.

102. Emellett lehetővé kell tennie, hogy észrevegyük a meglepő sikert is.

103. Ha a rendszer váratlanul jó megfogalmazást javasol az e-mailhez, nem kell lebecsülni az eredményt pusztán azért, mert a gép nem hasonlít egy emberi kollégára.

104. Komolyan veheted a javítást, és mégis az üzenetet küldő személyre bízhatod a végső döntést, aki tudja, hogy az elegáns alternatíva olyan szándékot fejez-e ki, amelyet érdemes a világ elé tárni.

105. Ugyanez a kiegyensúlyozott figyelem vonatkozik egy csalódást keltő válaszra is: egy ténybeli válaszban elkövetett hiba nem jelenti azt, hogy minden megfogalmazási javaslat értéktelen.

106. A megbízhatóság a feladatfajtákhoz és az ellenőrzési módszerekhez kapcsolódik, nem pedig egy egyszerű bizalmi vagy bizalmatlansági hangulathoz.

107. Az e-mail címzettje a szavaidat fogja látni, nem pedig azt a magánjellegű metaforát, amellyel a javaslatot tevő eszközt jelölted.

108. Ez a tény megkönnyíti az átadás azonosítását az első esetben.

109. A történelmi jellegű válasz esetében az átadás kevésbé látható, mert egy dátum becsúszhat egy mondatba, és továbbadódhat úgy, mintha valaki ellenőrizte volna, anélkül, hogy az elfogadás pillanata nyomot hagyna.

110. Kifinomult formája miatt az átadás zökkenőmentes.

111. Ha a dátum helytelen, minden későbbi ismétlés hitelesebbnek tűnhet, mint amennyit a megalapozatlan első válasz megérdemelne.

112. A megőrzésre érdemes modell ezért magában foglalja azt a pillanatot, amikor egy generált javaslat a saját állításoddá válik – egy olyan pillanatot, amely szinte észrevétlenül elmúlik, ha a kimenet már folyékony és beillesztésre kész.

113. E pillanat előtt a lehetőségeket jelentős szabadsággal lehet feltárni; utána pedig az állítás releváns indokai számítanak.

114. Nincs olyan rögzített elnevezés, amely minden helyzetben jelölné ezt az átmenetet, mivel az a pont, amikor egy hasznos javaslat következményes állítássá válik, attól függ, hogy mit szándékozol vele tenni.

115. A hasznos kép az, amelyet módosíthatsz, amikor a feladat megváltozik egy változatlan felület alatt.

116. Az egyik pillanatban a képernyőn három lehetséges megfogalmazás látható, a következőben pedig egy év, amely bejegyzésre vár.

117. A különbség nem látható a betűtípusban, de láthatónak kell lennie az olvasó következő lépésében.

1. Stellen Sie sich vor, Sie benötigen drei Formulierungsmöglichkeiten für einen schwierigen, aber alltäglichen Satz in einer E-Mail.

2. Sie fragen ein KI-System nach Alternativen, und innerhalb von Sekunden schlägt es Ihnen eine direkte, eine sanftere und eine kürzere Variante vor, die Ihnen jeweils eine andere Möglichkeit bieten, denselben schwierigen Punkt anzusprechen.

3. Keine dieser Varianten muss so übernommen werden, wie sie geschrieben ist.

4. Du weißt, was du sagen willst, und du weißt etwas über die Person, die die Nachricht erhalten wird; daher kannst du jeden Vorschlag anhand dieses Wissens abwägen, bevor du dich entscheidest oder ein Wort änderst.

5. Die Maschine hat deine Auswahlmöglichkeiten erweitert, ohne zu entscheiden, was du meinst.

6. Bei dieser Aufgabe vermittelt die Bezeichnung „Werkzeug“ ein nützliches Bild der Beziehung: Du gibst den Zweck vor, stößt auf Möglichkeiten, auf die du allein vielleicht nicht gekommen wärst, und beurteilst das Ergebnis anhand deiner eigenen Bedeutung.

7. Dieses Bild ist unvollständig, denn ein Hammer schlägt keine andere Art vor, dein Problem zu beschreiben.

8. Doch diese Unvollständigkeit mag hier harmlos sein.

9. Der Sinn eines inneren Bildes besteht darin, deinen nächsten Schritt zu leiten – sei es, eine Ausgabe zu vergleichen, zu hinterfragen oder abzulehnen –, und nicht darin, jeden verborgenen Vorgang im Inneren einer Maschine nachzubilden.

10. Sobald sich der nächste Schritt ändert, muss seine Nützlichkeit erneut geprüft werden.

11. Angenommen, derselbe Bildschirm erhält nun eine andere Anfrage: In welchem Jahr trat ein bestimmtes historisches Abkommen in Kraft?

12. Er antwortet mit einem Datum und einer flüssigen Erklärung.

13. Die Sprache ähnelt stark der hilfreichen Prosa, die er für deine E-Mail erzeugt hat, aber die beiden Antworten stellen unterschiedliche Anforderungen an dich, da die eine zur Auswahl angeboten wird und die andere vorgibt, die Welt zu beschreiben.

14. Bei der ersten Aufgabe war ein plausibler Satz Material, das Sie anhand Ihrer eigenen Absicht überprüfen konnten.

15. Bei der zweiten Aufgabe kann Plausibilität das Datum nicht bestimmen.

16. Der entscheidende Vergleich liegt außerhalb der Antwort, in einer verlässlichen Aufzeichnung des Abkommens und in der Unterscheidung zwischen dem Datum, an dem die Parteien es unterzeichnet haben, und dem Datum, an dem es in Kraft trat.

17. Eine ansprechende Antwort kann falsch sein, selbst wenn jede Klausel wohlüberlegt klingt.

18. Das ist kein Grund, den nützlichen ersten Beitrag der Maschine zu verwerfen, da ihre alternativen Formulierungen dennoch Beachtung verdienen mögen; es ist ein Grund, das Arbeitsszenario anzupassen, wenn sich die Aufgabe ändert.

19. Das NIST beschreibt selbstbewusst vorgetragene falsche Inhalte als ein mögliches Risiko generativer KI.

20. Es warnt zudem davor, dass Menschen sich zu leichtfertig auf ein automatisiertes Ergebnis verlassen oder nützliche Hilfe zu leichtfertig ablehnen könnten.

21. Keine dieser Reaktionen ist ein Maß für die tatsächliche Zuverlässigkeit des Systems.

22. Ihre eigene Aufgabe zeigt Ihnen, welcher Teil der Ausgabe ein Vorschlag ist, den Sie frei umgestalten können, und welcher Teil durch Belege gestützt werden müsste, bevor Sie ihn verantwortungsvoll wiedergeben könnten.

23. Ein internes Modell verdient seinen Platz dadurch, dass es diese Unterscheidung verbessert.

24. Betrachten Sie das System als Assistenten, während Sie die E-Mail-Entwürfe erstellen.

25. Ein Assistent kann Entwürfe vorschlagen, einer angegebenen Präferenz folgen und überarbeitete Fassungen vorlegen, wenn eine Formulierung nicht den beabsichtigten Ton trifft.

26. Diese Vorstellung fördert eher einen Austausch als einen einzelnen Befehl.

27. Außerdem wird es dadurch selbstverständlich, eine Zielgruppe, einen Zweck und eine Einschränkung anzugeben, da ein menschlicher Assistent diese Details benötigen würde, um eine nützliche Überarbeitung von einem ausgefeilten Satz zu unterscheiden, der dem falschen Zweck dient.

28. Nichts an dieser Nützlichkeit belegt, dass das System Ihre Umstände so kennt, wie es ein Kollege tun würde.

29. Seine Antwort mag aufmerksam klingen, lässt dabei jedoch eine unausgesprochene Tatsache über den Empfänger der E-Mail außer Acht – beispielsweise eine Meinungsverschiedenheit, die einen ansonsten höflichen Ausdruck ausweichend klingen lässt.

30. Wenn die Nachricht für eine Beziehung von Bedeutung ist, bleiben Sie derjenige, der die Beziehung kennt und die Verantwortung für die Wortwahl trägt.

31. Das Bild des Assistenten hilft dabei, die Arbeit zu organisieren, bis es still und leise mehr Urteilsvermögen einbringt, als der Austausch rechtfertigt.

32. Das Wort „Werkzeug“ korrigiert diese Tendenz teilweise.

33. Es hält das Ziel des Nutzers im Blick und macht die Überarbeitung zu einem ganz normalen Teil der Nutzung, selbst wenn ein vorgeschlagener Satz so natürlich klingt, dass es einfacher wäre, ihn ohne weiteres Nachdenken zu übernehmen.

34. Dennoch ist ein Werkzeug nicht immer passiv, so wie ein Stift passiv ist.

35. Wenn es eine mildere Formulierung vorschlägt, kann es Ihre Aufmerksamkeit auf eine Interpretation der Situation lenken, die Sie nicht in Betracht gezogen hatten.

36. Der Vorschlag mag es wert sein, angehört zu werden, aber ihn anzuhören ist etwas anderes, als ihn zu übernehmen.

37. Die wertvolle Grenze liegt in der Fähigkeit, einen Vorschlag anhand von etwas zu prüfen, über das die Maschine nicht in derselben Weise verfügt wie Sie – sei es Ihre Absicht oder eine unabhängige Aufzeichnung.

38. Bei der E-Mail-Aufgabe ist dieses Etwas Ihre Absicht und Ihr Wissen über den Empfänger.

39. Bei der historischen Frage ist es die dokumentarische Aufzeichnung.

40. Der Bildschirm sieht identisch aus, während sich die relevante Autoritätsquelle verschiebt.

41. Diese Verschiebung ist leicht zu übersehen, da beide Ergebnisse in ausgefeilter Sprache präsentiert werden.

42. Sprachgewandtheit ist ein Merkmal der Darstellung, kein Zertifikat, das den Fakten beigefügt ist.

43. Die Versuchung, das System als Autopiloten zu bezeichnen, wächst, wenn seine Antworten oft praktisch sind.

44. In diesem Bild gibt eine Person ein Ziel an und erwartet, dass die dazwischenliegenden Entscheidungen anderswo getroffen werden.

45. Als Metapher dafür, Routineschritte mit begrenzter Aufmerksamkeit ablaufen zu lassen, erfasst sie einen echten Reiz der Automatisierung, insbesondere wenn das System viele nützliche Entwürfe liefert und eine Person dazu verleitet, bei jeder Anfrage dieselbe Leichtigkeit zu erwarten.

46. Sie wirft aber auch eine Frage auf, die die Metapher allein nicht beantworten kann: Wer bemerkt es, wenn die Route falsch ist?

47. Dies sagt nichts über die gemessene Leistung eines tatsächlichen Flugzeug-Autopiloten aus.

48. Die Gefahr besteht hier darin, das Gefühl einer gesicherten Überwachung auf eine Aufgabe zu übertragen, deren Fakten noch nicht überprüft wurden, während man sich vorstellt, dass der reibungslose Übergang von der Frage zur Antwort auch den Übergang von der Behauptung zum Beweis abdeckt.

49. Bei einer Reihe möglicher E-Mail-Anfänge könnte man die Vorschläge bequem überfliegen und diejenigen ablehnen, die falsch klingen.

50. Was das Datum des Inkrafttretens der Vereinbarung angeht, wird ein flüchtiger Blick auf elegante Prosa ein plausibles, aber falsches Jahr nicht aufdecken.

51. Die Aufgabe erfordert eine andere Überprüfung, und der selbstbewusste Stil des Systems bietet diese nicht.

52. Selbst eine in der Antwort genannte Quelle ist nur ein Anhaltspunkt, bis man sie ausfindig machen und prüfen kann, ob sie die jeweilige Behauptung stützt, da ein echtes Dokument für einen Punkt zitiert werden kann, den es gar nicht belegt.

53. Wenn das Abkommen ein Unterzeichnungsdatum, ein Ratifizierungsdatum und ein Inkrafttreten hat, erfordert die Überprüfung eines Jahres auch die Klärung, nach welchem Ereignis gefragt wurde – eine Unterscheidung, die in einer Antwort, die mit grammatikalischer Sicherheit verfasst wurde, untergehen kann.

54. Die scheinbare Einfachheit einer einzeiligen Antwort kann diesen Unterschied verschleiern.

55. Ein „Autopilot“-Bild mag harmlos sein, wenn damit gemeint ist, einen reversiblen Entwurf zu delegieren und ihn vor der Verwendung zu überprüfen.

56. Es ist irreführend, wenn dadurch der Eindruck entsteht, die Überprüfung sei bereits in der Erstellung der Antwort enthalten.

57. Was sollte eine Person also von einer Aufgabe zur nächsten mitnehmen?

58. Keine dauerhafte Kennzeichnung für die Maschine, sondern eine kurze Beschreibung dessen, wofür diese bestimmte Ausgabe geeignet ist, was dabei ungeprüft bleibt und an welcher Stelle ein Mensch die Arbeit wieder übernehmen muss.

59. Die Beschreibung kann sich ändern, während die Software gleich bleibt.

60. Dies ist ein mentales Modell in seiner nützlichsten Form: eine selektive Skizze, die eine Handlung mit einer Erwartung verbindet – klar genug, um bei der Arbeit zu helfen, und bescheiden genug, um überarbeitet zu werden, wenn sich die Arbeit ändert.

61. Ein U-Bahn-Plan lässt die Form der Straßen weg, weil der Fahrgast wissen muss, wo er umsteigen muss.

62. Sucht der Reisende jedoch nach einem rollstuhlgerechten Eingang, lässt dieselbe Karte möglicherweise genau die benötigten Informationen weg.

63. Ihr Wert hängt von der Reise ab.

64. Ebenso lässt ein gutes Bild der KI einen Großteil der technischen Details weg, muss aber die für die jeweilige Entscheidung notwendigen Unterscheidungen beibehalten, einschließlich des Unterschieds zwischen dem Vorschlagen einer Formulierung und dem Feststellen einer Tatsache.

65. Das Bild ist mangelhaft, wenn es eine Frage verbirgt, die man im Rahmen der Aufgabe stellen muss.

66. Beim Verfassen eines Textes könnte die fehlende Frage lauten, ob ein vorgeschlagener Satz etwas aussagt, woran man nicht glaubt.

67. Bei einem historischen Datum könnte es darum gehen, ob ein identifizierbares Dokument das genannte konkrete Ereignis bestätigt.

68. Dies sind unterschiedliche Fehler, obwohl beide unter derselben ansprechenden Oberfläche auftauchen können.

69. Das Bild eines „Wortrechners“ bietet eine Korrektur: Es entkräftet die Annahme, dass natürliche Sprache automatisch persönliches Verständnis beinhaltet.

70. Es lädt dazu ein, die Beziehung zwischen Eingabe und Ausgabe genau zu betrachten und eine Antwort anhand eines separaten Maßstabs zu prüfen – eine nützliche Erinnerung, wenn die Antwort in Form eines selbstbewussten Absatzes erscheint.

71. Doch gewöhnliche Rechner arbeiten mit definierten Größen und Rechenoperationen, sodass die Analogie eine Genauigkeit versprechen könnte, die eine offene Antwort nicht besitzt – insbesondere wenn die Frage selbst mehrere plausible Interpretationen zulässt.

72. Es gibt keine einzige rechnerische Formel, um zu beurteilen, ob ein Satz taktvoll ist oder ob eine Quelle fair interpretiert wurde.

73. Bezeichnet man das System zu wörtlich als „Wortrechner“, könnte man erwarten, dass jede wohlformulierte Abfrage ein eindeutiges, überprüfbares Ergebnis liefert.

74. Der Ausdruck ist nur dann nützlich, wenn er die Frage der Verifizierung schärft.

75. Ein anderes Bild, ein „Exoskelett für den Geist“, weist auf einen anderen Nutzen hin.

76. Ein Exoskelett suggeriert eine Stütze, die es einer Person ermöglicht, eine Aufgabe mit größerer Reichweite oder weniger Aufwand zu erledigen, während die Person weiterhin die Bewegung steuert und die Umgebung wahrnehmen muss, durch die sie sich bewegt.

77. Im Zusammenhang mit E-Mails kann die Analogie verdeutlichen, wie zusätzliche Formulierungsmöglichkeiten die Belastung mindern, den ersten akzeptablen Satz zu finden – insbesondere wenn das Zögern daher rührt, dass es mehrere vertretbare Möglichkeiten gibt, einen heiklen Punkt auszudrücken.

78. Es wird irreführend, wenn größere Leichtigkeit mit größerer Weisheit verwechselt wird.

79. Ein kräftigerer Schritt sagt dir nicht, wohin du gehen sollst, und ein schnellerer Entwurf legt nicht fest, was gesagt werden sollte.

80. Ebenso wenig kann ein mechanisches Bild beweisen, dass eine Maschine menschliche Erfahrungen teilt, nur weil ihr Ergebnis einem Menschen beim Denken hilft.

81. Jede Metapher wählt eine Beziehung aus.

82. Das Werkzeug betont den Zweck, der Assistent suggeriert Austausch, der Taschenrechner verlangt eine Überprüfung, und der Autopilot wirft die Frage nach der Aufsicht auf.

83. Das Exoskelett hebt eine erweiterte Fähigkeit hervor, macht aber auch den Ort der Beurteilung besonders wichtig.

84. Keines davon ist eine technische Bestandsaufnahme des Systems.

85. Ihr Wert liegt in dem Verhalten, zu dem sie anregen, wenn eine konkrete Aufgabe auftaucht, denn eine Metapher, die einen beim Entwerfen aufmerksam hält, kann zu unangebrachtem Selbstvertrauen führen, sobald eine konkrete Antwort vorliegt.

86. Jemand, der eine Antwort als Vorschlag eines Assistenten bezeichnet, wird sie möglicherweise überarbeiten; jemand, der sie als Entscheidung eines Autopiloten bezeichnet, wird sie möglicherweise akzeptieren.

87. Diese Verben sind wichtiger als die Bezeichnungen selbst.

88. Dennoch zwingen Bezeichnungen nicht jeden zu identischem Verhalten, und dieselbe Person kann ein vertrautes Wort verwenden, während sie sorgfältige Überprüfungen vornimmt.

89. Wir sollten eine Metapher anhand der Erwartungen beurteilen, die sie im Kontext weckt, anstatt so zu tun, als würde ein Wort seinen Nutzer kontrollieren oder als würde jeder Zuhörer aus einem vertrauten Vergleich dieselbe Lehre ziehen.

90. Der Vergleich erklärt auch, warum die eleganteste Metapher nicht unbedingt die sicherste sein muss.

91. Ein einprägsames Bild lässt sich vielleicht gerade deshalb leicht abrufen, weil es unangenehme Ausnahmen ausblendet.

92. Das Bild des Assistenten beispielsweise wirkt vertraut, bis die Maschine mit derselben hilfsbereiten Stimme, die sie beim Brainstorming verwendet hat, eine sachliche Antwort gibt.

93. An diesem Punkt benötigt das Bild einen sichtbaren Spielraum: Dieser Assistent kann zwar eine mögliche Antwort generieren, doch seine Sicherheit ist kein Ersatz für eine Dokumentation, und sein hilfsbereiter Tonfall kann Ihnen nicht sagen, welche Behauptung überprüft wurde.

94. Der Spielraum ist Teil des Modells, keine Entschuldigung für den Einsatz des Werkzeugs.

95. Man könnte die historische Frage gänzlich ablehnen, doch damit würde man eine mögliche Verwendung einer vorläufigen Antwort als Anhaltspunkt für die weitere Recherche übersehen – vorausgesetzt, der Anhaltspunkt wird nicht stillschweigend zu dem Beweis, den er eigentlich aufspüren sollte.

96. Man könnte das Datum sofort akzeptieren, doch damit würde man einen Anhaltspunkt in eine Schlussfolgerung verwandeln, ohne die fehlenden Beweise zu liefern.

97. Zwischen diesen Optionen liegt eine genauere Beschreibung der Rolle des Ergebnisses.

98. Es kann dabei helfen, eine Suche einzugrenzen, während die Tatsachenfrage offen bleibt.

99. Die Situation ändert sich erneut, wenn keine verlässlichen Aufzeichnungen zugänglich sind oder wenn das Wort „wirksam“ im jeweiligen Kontext mehrere Bedeutungen hat, denn das ehrliche Ergebnis könnte eine engere Behauptung oder eine unbeantwortete Frage sein.

100. Dann sollte selbst ein plausibles Datum aus einer anderen Quelle nicht zu einer Gewissheit gezwängt werden, die die Beweislage nicht stützen kann.

101. Ein inneres Bild sollte Raum für diesen unvollendeten Zustand lassen.

102. Es sollte dich auch einen überraschenden Erfolg wahrnehmen lassen.

103. Wenn das System einen unerwartet guten Wortlaut für die E-Mail vorschlägt, musst du das Ergebnis nicht herabsetzen, nur weil die Maschine keinem menschlichen Kollegen ähnelt.

104. Sie können die Verbesserung ernst nehmen und dennoch das endgültige Urteil der Person überlassen, die die Nachricht versendet, denn diese weiß, ob die elegante Alternative eine Absicht zum Ausdruck bringt, die es wert ist, in die Welt hinausgetragen zu werden.

105. Die gleiche ausgewogene Aufmerksamkeit gilt auch für eine enttäuschende Antwort: Ein einziger Fehler in einer sachlichen Antwort bedeutet nicht, dass jeder Formulierungsvorschlag wertlos ist.

106. Zuverlässigkeit hängt von der Art der Aufgaben und den Überprüfungsmethoden ab, nicht von einer einzelnen Stimmung des Vertrauens oder Misstrauens.

107. Der Empfänger der E-Mail sieht Ihre Worte, nicht Ihre private Metapher für das Gerät, das sie vorgeschlagen hat.

108. Diese Tatsache macht es im ersten Fall leicht, die Übergabe zu lokalisieren.

109. Bei der historischen Antwort ist die Übergabe weniger sichtbar, da sich ein Datum in einen Satz einschleichen und weiterverbreitet werden kann, als hätte es jemand überprüft, ohne dass der Moment der Übernahme Spuren hinterlässt.

110. Seine ausgefeilte Form macht die Übertragung mühelos.

111. Ist das Datum falsch, kann jede spätere Wiederholung autoritativer wirken, als es die unbegründete erste Antwort verdient.

112. Das Modell, das es wert ist, beibehalten zu werden, umfasst daher den Moment, in dem ein generierter Vorschlag zu Ihrer eigenen Behauptung wird – ein Moment, der fast unbemerkt vergehen kann, wenn das Ergebnis bereits flüssig formuliert und zum Einfügen bereit ist.

113. Vor diesem Moment können Alternativen mit beträchtlicher Freiheit ausgelotet werden; danach kommt es auf die relevanten Gründe für die Behauptung an.

114. Es gibt keinen festen Begriff, der diesen Übergang in jedem Kontext kennzeichnen kann, da der Punkt, an dem aus einem nützlichen Vorschlag eine folgenreiche Behauptung wird, davon abhängt, was man damit vorhat.

115. Das nützliche Bild ist dasjenige, das man anpassen kann, wenn sich die Aufgabe hinter einer unveränderten Benutzeroberfläche ändert.

116. In einem Moment zeigt der Bildschirm drei mögliche Formulierungen an, im nächsten ein Jahr, das darauf wartet, eingetragen zu werden.

117. Der Unterschied ist in der Schriftart nicht sichtbar, sollte sich aber in der nächsten Handlung des Lesers zeigen.