7-0-das-neue-erleben

1. Egy utazó beír egy rövid üdvözlést egy számára ismeretlen fordítóeszközbe, és másodpercek alatt folyékony mondatot kap, így gyakorlati eredményt ér el, mielőtt mélyebben megértené azt a rendszert, amely azt létrehozta.

2. Az eredmény azonnal hasznos, mert elhárít egy kis akadályt anélkül, hogy megkövetelné az utazótól, hogy megértse, hogyan hozta létre a rendszer a mondatot.

3. Megkíméli az utazót attól, hogy kifejezésgyűjteményben keressen, emlékezetből állítsa össze a nyelvtani szerkezetet, vagy egyáltalán feladja az üzenet megfogalmazását, miközben szinte semmit sem követel tőle azon a gyors megítélésen túl, hogy a megfogalmazás elég jó-e ehhez a kis célhoz.

4. Tegyük fel, hogy az üdvözlés tartalmaz egy kissé furcsa szót, amely megváltoztatja a hangnemet, de nem okoz komoly kárt, mert a cél alkalmi jellegű, és a címzett általában a kontextusból ki tudja következtetni, mit is akartak mondani.

5. A hiba számít, de nem túlzottan, mert az üdvözlést később kijavíthatják, és egy furcsa kifejezés várható kockázata csekély marad.

6. A felhasználó mosolyoghat, később kijavíthatja, és így is elérheti a kívánt személyt.

7. Most képzeljük el, hogy ugyanezt a fordítóeszközt használják egy írásbeli megállapodáshoz, amelynek megfogalmazása pénzre, kötelezettségekre vagy tartós kapcsolatra hatással lehet, ahol egy jelentésbeli finom eltérés sokkal nagyobb jelentőségű lehet, mint egy furcsa kifejezés egy üdvözlésben.

8. A szoftver pontosan ugyanaz lehet, ugyanazt a felületet használja, és talán ugyanolyan kifinomult nyelvet állít elő, mint korábban.

9. A kimenet ésszerű kezelése azonban nem ugyanaz, mert a második feladatban az észrevétlen hiba nagyobb és kevésbé visszafordítható következményekkel jár.

10. Ezt a különbséget könnyű figyelmen kívül hagyni, mert a folyékony nyelv mindkét esetben ugyanolyan kifinomult felülettel jelenik meg, még akkor is, ha a nyelvhez kapcsolódó következmények gyakorlati jelentőségükben nagyságrendekkel eltérhetnek egymástól.

11. Egy gördülékeny mondat nem tükrözi a hozzá kapcsolódó következmények nagyságát.

12. A képernyő nyugodtnak tűnik akkor is, amikor a tét nem az, és a tipográfiában semmi sem jelzi automatikusan, hogy a helyzet milyen alapos ellenőrzést igényel.

13. Egy új eszköz használata ezért többet igényel, mint annak eldöntését, hogy általánosságban jó-e vagy rossz-e, mert ugyanaz az eszköz egy helyzetben ártalmatlan lehet, egy másikban viszont súlyos következményekkel járhat anélkül, hogy alapvető működési mechanizmusa megváltozna.

14. Meg kell felelnünk annak, hogy milyen mértékű bizalmat fektetünk bele az adott feladathoz, miközben szem előtt kell tartanunk, hogy a megfelelő mérce attól függ, mit okozhat valójában egy észrevétlen hiba.

15. Ez szerénynek tűnik, de teljesen megváltoztatja az újdonsághoz fűződő viszonyunkat.

16. Az első ösztönös reakció gyakran az, hogy magát az objektumot ítéljük meg, mert egy egyetlen, átfogó ítélet könnyebbnek tűnik, mint egyszerre több, feltételekhez kötött elvárás fenntartása.

17. Ez a gép megbízható, veszélyes, zseniális, ostoba, felszabadító vagy túlértékelt?

18. Az ilyen címkék hasznos rövidítések lehetnek, mégis gyakran sok különböző feladatot sűrítenek egyetlen ítéletbe, miközben a pontosabb leírás az erősségek, gyengeségek és a használati feltételek mintázata lehetne.

19. Egy eszköz kiváló lehet alternatívák generálására, megfelelő a nagyvonalú tájékozódáshoz, gyenge a pontos tényadatok lekéréséhez, és elfogadhatatlan egy ellenőrizetlen, nagy kockázatú döntés meghozatalához – ami azt jelenti, hogy egy olyan egyszerű címke, mint a „megbízható” vagy „megbízhatatlan”, többet takar el, mint amennyit megmagyaráz.

20. Ezek nem ellentmondások, mert ugyanaz a rendszer különböző szintű bizalmat érdemelhet, ha a feladat, a bizonyítékok és a következmények megváltoznak.

21. Ezek a képesség, a bizonytalanság és a következmény közötti különböző kapcsolatok, és mindegyik kapcsolat ellentmondás nélkül indokolhat különböző mértékű támaszkodást.

22. A képzeletbeli fordítóeszköz láthatóvá teszi ezt a különbséget, mert a képernyőn megjelenő szavak mindkét helyzetben egyformán meggyőzőnek tűnhetnek, miközben elrejtik azt a következménybeli különbséget, amelynek alapján el kellene dönteni, hogy az egyes kimeneteket milyen gondosan kell ellenőrizni.

23. Ami változik, az a tévedés költsége, amely ugyanazon hibalehetőséget egy enyhe kellemetlenségből komoly problémává változtathatja.

24. Ez a költség meghatározza, hogy egy ésszerű felhasználónak mit kellene tudnia, mielőtt cselekedne.

25. Egy magánjellegű üdvözlés esetében a gyors hasznosság elegendő lehet, mivel az üzenetet könnyű kijavítani, és a lehetséges kár korlátozott marad.

26. Egy következményekkel járó megállapodás esetében a független ellenőrzés nélküli hasznosság túl kevés lehet.

27. A fontos változás abban áll, hogy a kérdés nem az, hogy az eszköz megérdemli-e a bizalmat, hanem az, hogy milyenfajta bizalomra érdemes ez a feladat – ez a figyelmet a gép személyiségétől a feladat szerkezete felé tereli.

28. A bizalom nem egy gépre véglegesen rögzített kitüntetés, hanem egy ideiglenes megítélés arról, hogy egy adott kimenet elég megbízható-e egy konkrét célra.

29. Ez egy gyakorlati kapcsolat egy állítás, egy cél, egy felhasználó és a hiba lehetséges következményei között, ami azt jelenti, hogy a bizalmat a konkrét felhasználáshoz kell kötni, ahelyett, hogy általánosítanánk a rendszer által előállítható minden kimenetre.

30. Egy számológépre egy művelet elvégzésében bízhatunk, miközben az akkumulátor-jelzőjét kétségbe vonjuk; egy jártas kollégára pedig egy adott területen bízhatunk anélkül, hogy minden más területen is szakértőnek tekintenénk.

31. Az új digitális rendszerekre ugyanazt a hétköznapi megkülönböztetést érdemlik, amelyet az emberek – gyakran észrevétlenül – már alkalmaznak kollégáikra, műszereikre, térképeikre, előrejelzéseikre és kézikönyveikre.

32. Újdonságuk megnehezíti ezt a megkülönböztetést, mert a felhasználóknak gyakran nincsenek kialakult szokásaik az egyes teljesítménytípusok elkülönítésére, és az újdonság kevesebb ismerős figyelmeztető jelet nyújt ahhoz, hogy felismerjék, mikor valószínű, hogy egy sikeres minta rosszul alkalmazható máshol.

33. Egy feltűnő siker átterjedhet olyan feladatokra vonatkozó elvárásokra is, amelyeket soha nem teszteltek.

34. Egy szembetűnő kudarc ugyanolyan könnyen terjedhet az ellenkező irányba is.

35. Egyetlen hiba is értéktelenné teheti az egész rendszert, különösen akkor, ha a kudarc élénk, kínos vagy könnyen emlékezetes marad, még akkor is, amikor a rutin jellegű sikerek már rég elhalványultak.

36. Mindkét reakció leegyszerűsíti a bizonytalanságot azáltal, hogy egy összetett tárgyat egyetlen történetté alakít.

37. A generatív mesterséges intelligenciával kapcsolatos kutatások és kockázatkezelési munkák kifejezetten figyelmeztetnek mind a túlzott támaszkodásra, mind a túlzott elutasításra, ami hasznos emlékeztető arra, hogy a helytelen értékelésnek két iránya van.

38. A lényeg nem az, hogy minden felhasználó beleesik ezekbe a csapdákba, hanem az, hogy mindkét reakció lehetséges, amikor a bizonytalanság gyors érzelmi rövidítést igényel.

39. Az a helyzet, hogy egy újszerű rendszer arra csábíthat minket, hogy a feladatspecifikus ítéletet a rendszerrel kapcsolatos általános érzéssel helyettesítsük, annak ellenére, hogy ugyanaz a rendszer lelkesedést, óvatosságot vagy közömbösséget érdemelhet attól függően, hogy a felhasználó mit próbál elérni.

40. Az érzések itt nem haszontalanok, mert a nyugtalanság ellenőrzésre késztethet, míg az ismételt sikereken alapuló magabiztosság csökkentheti a felesleges súrlódást.

41. A nyugtalanság ellenőrzésre késztethet, az ismételt sikereken keresztül megszerzett magabiztosság pedig gyorsabbá teheti a munkát.

42. A baj akkor kezdődik, amikor az érzés már nem követi nyomon azt, amit valójában tudunk a jelenlegi használatról – ezért az egyik helyzetben megszerzett magabiztosság félrevezetővé válhat, ha észrevétlenül átkerül egy másikba.

43. Az az utazó, aki húsz jó fordítást kapott, ésszerűen jobban megbarátkozhat az eszközzel, különösen akkor, ha a kimenetek gyorsak, folyékonyak és elég hasznosak voltak ahhoz, hogy egyetlen látható probléma se kényszerítse őt alaposabb vizsgálatra.

44. Ez a tapasztalat még mindig nem bizonyítja, hogy a huszonegyedik fordítás alkalmas jogi, orvosi, pénzügyi vagy egyéb, következményekkel járó célra, mert a hétköznapi kommunikációban elért siker nem garantálja azt a pontosságot, amelyre szükség van, amikor a kis szóhasználati különbségek súlyos következményekkel járhatnak.

45. A tapasztalat csak annyira átvihető, amennyire a feladatok közötti hasonlóságok indokolják.

46. Ez az egyik oka annak, hogy a mentális modellek fontosak, mert nemcsak azt alakítják, hogyan írják le egy eszközt, hanem azt is, hogy a felhasználó milyen típusú hibára számít.

47. A mentális modell nem egy a fejben rejtőző miniatűr műszaki ábra.

48. Hanem egy működő elvárás arra vonatkozóan, hogy egy objektum valószínűleg mit fog tenni legközelebb, hol hibázhat, és milyen figyelmet igényel a használata anélkül, hogy a felhasználónak ismernie kellene minden rejtett műveletet, amely a bevitel és a képernyőn látható eredmény között kapcsolatot teremt.

49. Egy hasznos modell addig maradhat egyszerű, amíg elég jól megjósolja a következő fontos lépést, és láthatóvá teszi saját vakfoltjait.

50. Az utazónak nem kell megértenie egy nyelvi modell belső matematikáját ahhoz, hogy észrevegye: a folyékony kimenet tartalmazhat hibás nevet, eltolódott hangsúlyt vagy kitalált részletet.

51. Amint ez a lehetőség részévé válik a működő képnek, a folyékony nyelv elveszíti egy részét abból a képességéből, hogy garanciaként álcázza magát, miközben megőrzi a folyékonyság gyakorlati értékét olyan feladatoknál, ahol eleve soha nem volt szükség pontos ténybeli hitelességre.

52. Továbbra is lenyűgöző lehet, mert az indokolatlan bizonyosság aurájának eltávolítása nem törli ki a képesség valódi sebességét, hatókörét vagy kényelmét.

53. Egyszerűen csak nem hordoz több tekintélyt, mint amennyit a bizonyítékok alátámasztanak.

54. Ez a megkülönböztetés lehetővé teszi, hogy a csodálat és az óvatosság egyszerre legyen jelen ugyanabban az elmében anélkül, hogy egymást semlegesítenék, mivel az óvatosság inkább a csodálat határait határozza meg, mintsem olyan oldószerként működne, amely a csodálatot teljesen feloldja.

55. Az emberek gyakran feltételezik, hogy a szkepticizmusnak hűtenie kell a lelkesedést.

56. A gyakorlatban egy jobb modell pontosabbá teheti a lelkesedést.

57. Az ember élvezheti a fordítóeszköz sebességét, miközben fenntartja magának a véleményét egy rendkívül fontos mondatról, mert a gyors nyelvi segítség értéke nem attól függ, hogy úgy teszünk, mintha minden kifinomult mondat egyformán megbízható lenne.

58. Az öröm a valódi képességben rejlik, nem pedig abban, hogy úgy teszünk, mintha a képességnek ne lennének határai, és a képesség hasznosabbá válhat, ha határait az eszköz részének tekintjük, nem pedig kínos kivételeknek.

59. Ez a bizalom egy visszafogottabb formája, amely kevésbé a gép egészével kapcsolatos lelkesedésen alapul, mint inkább azon, hogy tudjuk, hol figyelhető meg ténylegesen a hasznossága.

60. Ehhez nem kell, hogy a rendszer varázslatos legyen.

61. Ahhoz sem, hogy minden kudarc csalást leplezzen le.

62. Ugyanez a mértékletesség vonatkozik az elutasításra is, mert a csalódás éppoly válogatás nélküli lehet, mint a lelkesedés, ha egyetlen rossz eredmény határozhatja meg az összes feladatot.

63. Ha egy rendszer egy nevetséges választ ad, akkor minden hasznos funkció elvetése biztonságosabbnak tűnhet, mint annak kiderítése, hol húzódik valójában a határ – különösen akkor, ha a hibás válasz olyan élesen ellentmond a felhasználó mentális képének, hogy a bizalmatlanság túlterjed azon a feladaton, amelyben a hiba bekövetkezett.

64. Ez a reakció a kalibrálás lehetőségének elutasításával véd a csalódás ellen.

65. Ugyanakkor el is rejtheti a valódi értéket azzal, hogy láthatatlanná teszi egy hasznos, de korlátozott képességet pusztán azért, mert az nem felelt meg egy olyan elvárásnak, amelyet soha nem is érdemelt meg.

66. Egy durva fordítás, egy alternatívák listája, egy tájékozódást segítő összefoglaló vagy egy első vázlat akkor is értékes lehet, ha a végső eredményt még emberi ellenőrzésnek kell alávetni.

67. A kulcsszó itt a „még”, mert az áttekintés a kompetens használat része lehet, nem pedig olyan rituálé, amelyet csak akkor hajtunk végre, amikor a technológia már csalódást okozott nekünk.

68. Az áttekintés nem sértés az eszközre nézve, éppúgy, ahogy a lektorálás sem sértést jelent az író számára, vagy a műszer ellenőrzése sem sértést jelent a mérnök számára, aki azt megépítette.

69. Ez annak a rendszernek a része, amelynek segítségével egy hasznos, de hibázásra hajlamos képesség egy adott környezetben használhatóvá válik, és a rendszer úgy alakítható ki, hogy az emberi figyelem arra a területre összpontosuljon, ahol a hibák valóban a leginkább számítanak.

70. A szükséges ellenőrzésnek a tét nagyságával arányosan kell növekednie, nem pedig a technológiát övező drámai hangulattal, mert egy alacsony tétű kísérlet és egy súlyos következményekkel járó döntés nem érdemel azonos mennyiségű időt, óvatosságot vagy független megerősítést.

71. Egy látványos bemutató egy játékos kísérletben kevesebb ellenőrzést érdemelhet, mint egy hétköznapi kinézetű mondat egy következményekkel járó dokumentumban, mert a ésszerű ellenőrzési erőfeszítést nem a színpadi hatás, hanem a hiba költsége, észlelhetősége és visszafordíthatósága határozza meg.

72. A látszat és a fontosság könnyen eltávolodhat egymástól, mert egy látványos eredménynek alacsony lehet a tétje, míg egy hétköznapi kinézetű mondat csendben súlyos következményekkel járhat.

73. A ragyogó eredményre azért figyelünk fel, mert ellentmond a várakozásoknak, míg a rutinszerűnek tűnő hibák észrevétlenül kerülhetnek be a rendszerbe, így előfordulhat, hogy nem az az esemény vonzza a figyelmet, amelynek következményei leginkább megérdemelnék a gondos vizsgálatot.

74. Ez az aszimmetria pszichológiai szempontból is fontos, mert a figyelem az újdonságra irányul, nem pedig automatikusan a következményekre.

75. A felhasználó ezért megvizsgálhatja a meglepő sikert, és figyelmen kívül hagyhatja azt a hétköznapi mondatot, amely valójában alapos vizsgálatot érdemelne.

76. A probléma nem kizárólag a mesterséges intelligenciára jellemző, bár a beszélgető rendszereknél különösen szembetűnő, mivel kimeneteik ismerős, emberi formában jelennek meg.

77. Az emberek rendszeresen használnak térképeket, orvosi eszközöket, navigációs rendszereket, előrejelzéseket, számológépeket, keresőmotorokat és egyéb eszközöket, amelyek kimenetei különböző kontextusokban különböző szintű ellenőrzést igényelnek.

78. Az újdonság miatt megszűnik a kialakult intuíció, így a felhasználóknak kevesebb örökölt tapasztalati szabályuk van arra, hogy eldöntsék, mikor biztonságos és mikor veszélyes a bizalom.

79. Egy régi eszköz esetében a generációkon átívelő használat gyakran megtanította az embereket arra, mely hibák gyakoriak, mely jelzések fontosak, és mikor célszerű egy másik pár szem segítségét kérni.

80. Egy új eszköz esetében ez a társadalmi tudás szegényesebb, így az egyéneknek tapasztalat útján kell felfedezniük, mely hibák ismétlődnek, és mely sikerek nehezen általánosíthatók.

81. A felhasználók improvizálnak: szokásokat kölcsönöznek a régebbi eszközöktől, figyelik, mit csinálnak mások, és a sikerek, kudarcok és kétértelmű eredmények után felülvizsgálják az elvárásaikat.

82. Metaforákat kölcsönöznek a régebbi technológiákból, lemásolják barátaik szokásait, figyelnek a promóciós állításokra, reagálnak a kudarcokra, és fokozatosan fedezik fel, mely elvárások állják ki a tapasztalat próbáját.

83. Ezek közül a kölcsönzött szokások közül néhány jól illeszkedik.

84. Mások viszont nem, mert egy ismerős összehasonlítás pontosan azt a tulajdonságot rejtheti el, amely miatt az új rendszer másképp viselkedik, mint feltételezett elődje.

85. Egy olyan gép, amely úgy ír, mint egy ember, kiválthatja azt a beszélgetési bizalmat, amelyet általában egy kompetens beszélőnek tulajdonítanak, még akkor is, ha folyékony kimenete magabiztosan megfogalmazott hamis állításokat is tartalmazhat.

86. Egy olyan gép, amely alkalmanként meghibásodik, éppen az ellenkező tévedést válthatja ki, mintha az egyik feladatban tanúsított megbízhatatlanság törölné a másikban tanúsított kompetenciát.

87. A kalibrálás azt jelenti, hogy elég sokáig ellenállunk mindkét leegyszerűsítésnek ahhoz, hogy elválasszuk a rendszer egy feladatban bizonyított képességét attól a feltételezéstől, hogy mit kell tennie egy másikban.

88. Ez minden alkalommal egy szűkebb kérdést igényel.

89. Mire támaszkodom itt?

90. Néha a válasz csupán a sebesség.

91. Néha a megfogalmazás, a ténybeli pontosság, a teljesség, az ítélőképesség vagy a szokatlan kivételek észlelésének képessége.

92. Ezek különböző ígéretek, még akkor is, ha ugyanazon a felületen keresztül érkeznek.

93. Aki elkülöníti őket, szabadabban használhatja a rendszert, mert a bizalomnak már nem kell „mindent vagy semmit” jellegűnek lennie.

94. A szabadság itt a pontosságból fakad, mert a felhasználónak már nem kell választania a feltétlen hit és a teljes technológia teljes elutasítása között.

95. Az utazó elfogadhat egy gyors üdvözlést anélkül, hogy úgy tenné, mintha a gép egyetemes nyelvi tekintély lett volna.

96. Ugyanez az utazó követelhet egy második ellenőrzést egy fontos megállapodás esetében anélkül, hogy a technológiát kudarcnak nyilvánítaná.

97. A változás nem a gépben történik, hanem abban a mércében, amelyet a felhasználó alkalmaz egy feladatra, miután felismerte, mi forog kockán és mi marad bizonytalan.

98. A feladat és az eredményre alkalmazott mérce közötti összhangban rejlik.

99. Ez az összhang a felelősséget is egyértelművé teszi, mert annak, aki úgy dönt, hogy támaszkodik egy kimenetre, figyelembe kell vennie, ki fogja viselni a következményeket, ha az téves.

100. Ha a következmények csekélyek és könnyen orvosolhatók, a felhasználó ésszerűen több bizonytalanságot tűrhet el, és kevesebb időt fordíthat az ellenőrzésre.

101. Ha a következmények súlyosak, nehezen visszafordíthatók, vagy olyan személy viseli őket, aki nem választotta az eszközt, ugyanaz a bizonytalanság más súlyt kap.

102. Ez a megfigyelés nem eredményez univerzális képletet.

103. Egyszerűen csak megakadályozza, hogy a kényelem elrejtse a következményeket.

104. Lehet, hogy az, aki a gyorsaságból profitál, nem az, aki a hiba árát fizeti.

105. Egy vezető, ügyfél, alkalmazott, beteg, utazó vagy családtag különböző pozíciókat foglalhat el ugyanazon technikai rendszer kapcsán.

106. Reakcióik eltérhetnek anélkül, hogy az egyik fél tudatlan vagy irracionális lenne.

107. Ami a könnyű haszon szempontjából felesleges óvatosságnak tűnik, a koncentrált kockázat szempontjából egyszerű önvédelemnek tűnhet.

108. Ezzel szemben ami vakmerő lelkesedésnek tűnik, néha azt tükrözi, hogy az illető talált egy alacsony kockázatú felhasználási módot, amely valóban javítja a mindennapi életét.

109. A felhasználás pontos leírása gyakran csökkenti a látszólagos pszichológiai rejtélyt.

110. A vita a személyiségekről a körülményekre terelődik.

111. Ahelyett, hogy azt kérdeznénk, miért szereti az egyik ember az új eszközt, míg a másik fél tőle, megkérdezhetjük, mit várnak tőle, mit veszíthetnek, és mennyire lennének számukra láthatóak a hibák.

112. Ez nem oldja meg minden nézeteltérést.

113. De a nézeteltérést informatívabbá teszi.

114. Az újdonsággal való érett viszony tehát nem érzelmi semlegesség.

115. Helyet hagy az örömnek, az irritációnak, az óvatosságnak, a kíváncsiságnak, sőt, időnként a puszta megdöbbenés visszatérésének is.

116. Ami megváltozik, az az ezekre az érzésekre támasztott elvárás.

117. Felhívhatják a figyelmet, de nem nekik kell meghozniuk a végső ítéletet.

118. A képzeletbeli utazó élvezheti a könnyed üdvözlést, elgondolkodhat a következményekkel járó dokumentumon, és mindkét reakciót ésszerű válasznak tekintheti a különböző tétjeikre.

119. A képernyőn a két fordítás még mindig ugyanolyan gördülékenynek tűnhet.

120. A különbség abban rejlik, hogy tudjuk, melyiket lehet egyszerűen használni, és melyiket érdemes először alaposabban megvizsgálni.

1. Ein Reisender tippt einen kurzen Gruß in ein ihm unbekanntes Übersetzungstool ein und erhält innerhalb von Sekunden einen flüssigen Satz, wodurch er ein praktisches Ergebnis erzielt, noch bevor er ein tiefes Verständnis für das System erlangt hat, das diesen erzeugt hat.

2. Das Ergebnis ist sofort nützlich, da es ein kleines Hindernis beseitigt, ohne vom Reisenden zu verlangen, dass er versteht, wie das System den Satz erzeugt hat.

3. Es erspart dem Reisenden das Durchblättern eines Sprachführers, das Zusammenstellen von Grammatik aus dem Gedächtnis oder das vollständige Aufgeben der Nachricht, während es fast nichts weiter verlangt als eine schnelle Beurteilung, dass die Formulierung für diesen kleinen Zweck gut genug ist.

4. Angenommen, der Gruß enthält ein etwas ungeschicktes Wort, das den Ton verändert, aber keinen ernsthaften Schaden anrichtet, da der Zweck zwanglos ist und der Empfänger in der Regel aus dem Kontext ableiten kann, was gemeint war.

5. Der Fehler spielt zwar eine Rolle, aber keine allzu große, da die Begrüßung später korrigiert werden kann und der wahrscheinliche Schaden durch eine umständliche Formulierung gering bleibt.

6. Der Nutzer kann darüber schmunzeln, den Fehler später korrigieren und die beabsichtigte Person dennoch erreichen.

7. Stellen Sie sich nun vor, dass dasselbe Übersetzungstool für eine schriftliche Vereinbarung verwendet wird, deren Wortlaut Auswirkungen auf Geld, Verpflichtungen oder eine dauerhafte Beziehung haben kann – wo eine subtile Bedeutungsänderung weitaus schwerwiegender sein könnte als eine umständliche Formulierung in einer Begrüßung.

8. Die Software mag genau dieselbe sein, dieselbe Benutzeroberfläche verwenden und vielleicht eine Sprache erzeugen, die genauso ausgefeilt wirkt wie zuvor.

9. Der vernünftige Umgang mit ihrer Ausgabe ist jedoch nicht derselbe, da die zweite Aufgabe größere und weniger reversible Konsequenzen mit sich bringt, wenn ein Fehler unbemerkt bleibt.

10. Dieser Unterschied ist leicht zu übersehen, da die flüssige Sprache in beiden Fällen mit derselben ausgefeilten Oberfläche präsentiert wird, auch wenn sich die mit dieser Sprache verbundenen Konsequenzen in ihrer praktischen Bedeutung um Größenordnungen unterscheiden können.

11. Ein flüssiger Satz lässt nicht erkennen, wie groß die damit verbundenen Konsequenzen sind.

12. Der Bildschirm wirkt ruhig, auch wenn es um viel geht, und nichts in der Typografie weist automatisch darauf hin, wie sorgfältig die Situation geprüft werden sollte.

13. Der Umgang mit einem neuen Werkzeug erfordert daher mehr als die Entscheidung, ob es generell gut oder generell schlecht ist, denn dasselbe Gerät kann in einem Kontext harmlos und in einem anderen folgenschwer sein, ohne dass sich sein zugrunde liegender Mechanismus ändert.

14. Es erfordert, das Vertrauen, das wir in das Werkzeug setzen, an die jeweilige Aufgabe anzupassen, die wir ihm übertragen, und dabei zu bedenken, dass der angemessene Maßstab davon abhängt, was ein unbemerkt gebliebener Fehler tatsächlich anrichten könnte.

15. Das klingt bescheiden, verändert aber die gesamte Beziehung zu Neuem.

16. Der erste Impuls besteht oft darin, das Objekt selbst zu beurteilen, da ein einziges pauschales Urteil einfacher erscheint, als mehrere bedingte Erwartungen gleichzeitig aufrechtzuerhalten.

17. Ist diese Maschine zuverlässig, gefährlich, genial, töricht, befreiend oder überbewertet?

18. Solche Etiketten können nützliche Abkürzungen sein, doch oft verdichten sie viele verschiedene Aufgaben zu einem einzigen Urteil, während eine genauere Beschreibung eher ein Muster aus Stärken, Schwächen und Nutzungsbedingungen sein könnte.

19. Ein Werkzeug kann hervorragend dazu geeignet sein, Alternativen zu generieren, ausreichend für eine grobe Orientierung, schlecht für die exakte Abfrage von Fakten und inakzeptabel für eine ungeprüfte Entscheidung mit hohen Risiken – was bedeutet, dass ein einzelnes Etikett wie „zuverlässig“ oder „unzuverlässig“ mehr verschleiern als erklären kann.

20. Dies sind keine Widersprüche, denn dasselbe System kann unterschiedliche Vertrauensgrade verdienen, wenn sich die Aufgabe, die Beweislage und die Konsequenzen ändern.

21. Es handelt sich um unterschiedliche Beziehungen zwischen Leistungsfähigkeit, Unsicherheit und Konsequenz, und jede Beziehung kann ohne Widerspruch ein unterschiedliches Maß an Vertrauen rechtfertigen.

22. Das imaginäre Übersetzungstool macht diese Unterscheidung sichtbar, da die Wörter auf dem Bildschirm in beiden Situationen gleichermaßen überzeugend wirken können, während sie genau den Unterschied in den Konsequenzen verbergen, der darüber entscheiden sollte, wie sorgfältig jede Ausgabe überprüft wird.

23. Was sich ändert, sind die Kosten eines Fehlers, die dieselbe Fehlerwahrscheinlichkeit von einer leichten Unannehmlichkeit in ein ernstes Problem verwandeln können.

24. Diese Kosten beeinflussen, was ein vernünftiger Nutzer wissen sollte, bevor er handelt.

25. Bei einer privaten Begrüßung mag eine schnelle Nützlichkeit ausreichen, da die Nachricht leicht zu korrigieren ist und der mögliche Schaden begrenzt bleibt.

26. Bei einer folgenreichen Vereinbarung ist Nützlichkeit ohne unabhängige Überprüfung möglicherweise viel zu wenig.

27. Die wichtige Verlagerung besteht darin, nicht mehr zu fragen, ob das Tool Vertrauen verdient, sondern welche Art von Vertrauen diese Aufgabe verdient – eine Verlagerung, die den Fokus von der Persönlichkeit der Maschine hin zur Struktur der Aufgabe verlagert.

28. Vertrauen ist keine Medaille, die dauerhaft an eine Maschine geheftet ist, sondern eine vorläufige Beurteilung darüber, ob ein bestimmtes Ergebnis für einen bestimmten Zweck zuverlässig genug ist.

29. Es handelt sich um eine praktische Beziehung zwischen einer Behauptung, einem Zweck, einem Nutzer und den möglichen Folgen eines Fehlers – was bedeutet, dass das Vertrauen an die konkrete Nutzung geknüpft sein sollte und nicht verallgemeinert auf alle Ergebnisse, die das System produzieren kann.

30. Einem Taschenrechner kann man bei einer einzelnen Rechenoperation vertrauen, während man seiner Batterieanzeige misstraut, und einem erfahrenen Kollegen kann man in einem Fachgebiet vertrauen, ohne dass er dadurch in jedem anderen Fachgebiet zur Autorität wird.

31. Neue digitale Systeme verdienen dieselbe alltägliche Unterscheidungskraft, die Menschen bereits – oft ohne es zu bemerken – gegenüber Kollegen, Instrumenten, Karten, Prognosen und Nachschlagewerken anwenden.

32. Ihre Neuartigkeit erschwert diese differenzierte Beurteilung, da den Nutzern oft fest verankerte Gewohnheiten fehlen, um verschiedene Leistungsarten voneinander zu unterscheiden, und die Neuartigkeit weniger vertraute Warnsignale liefert, anhand derer man erkennen kann, wann ein erfolgreiches Muster wahrscheinlich schlecht übertragbar ist.

33. Ein auffälliger Erfolg kann sich auf Erwartungen hinsichtlich Aufgaben ausweiten, die nie getestet wurden.

34. Ein auffälliger Misserfolg kann sich ebenso leicht in die entgegengesetzte Richtung ausbreiten.

35. Ein einziger Fehler kann das gesamte System wertlos erscheinen lassen, insbesondere wenn der Misserfolg eindringlich, peinlich oder leicht zu erinnern ist, lange nachdem routinemäßige Erfolge verblasst sind.

36. Beide Reaktionen vereinfachen Unsicherheit, indem sie ein vielschichtiges Phänomen in eine einzige Geschichte verwandeln.

37. Forschungsarbeiten und Risikomanagement im Bereich der generativen KI warnen ausdrücklich sowohl vor übermäßigem Vertrauen als auch vor übermäßiger Ablehnung – eine nützliche Erinnerung daran, dass Fehlkalibrierung in zwei Richtungen erfolgen kann.

38. Der Punkt ist nicht, dass jeder Nutzer in eine dieser Fallen tappt, sondern dass beide Reaktionen zur Verfügung stehen, wenn Unsicherheit eine schnelle emotionale Abkürzung erfordert.

39. Es geht darum, dass ein neuartiges System uns dazu verleiten kann, aufgabenspezifisches Urteilsvermögen durch ein allgemeines Gefühl gegenüber dem System zu ersetzen, obwohl dasselbe System je nachdem, was der Nutzer zu erreichen versucht, Begeisterung, Vorsicht oder Gleichgültigkeit verdienen mag.

40. Gefühle sind hier nicht nutzlos, denn Unbehagen kann eine Überprüfung auslösen, während Vertrauen, das auf wiederholten Erfolgen beruht, unnötige Reibungsverluste verringern kann.

41. Unbehagen kann zur Überprüfung anregen, und durch wiederholte Erfolge gewonnenes Vertrauen kann die Arbeit beschleunigen.

42. Probleme entstehen, wenn das Gefühl nicht mehr mit dem übereinstimmt, was tatsächlich über die aktuelle Nutzung bekannt ist; deshalb kann Vertrauen, das in einem Kontext gewonnen wurde, irreführend werden, wenn es unbemerkt in einen anderen Kontext übertragen wird.

43. Ein Reisender, der zwanzig gute Übersetzungen erhalten hat, fühlt sich mit dem Tool wahrscheinlich wohler – insbesondere, wenn die Ergebnisse schnell, flüssig und so nützlich waren, dass kein sichtbares Problem eine genauere Überprüfung erforderlich machte.

44. Diese Erfahrung beweist jedoch noch nicht, dass die einundzwanzigste Übersetzung für rechtliche, medizinische, finanzielle oder anderweitig folgenreiche Zwecke geeignet ist, da Erfolg in der alltäglichen Kommunikation nicht die erforderliche Genauigkeit gewährleistet, wenn kleine Formulierungsunterschiede schwerwiegende Konsequenzen nach sich ziehen können.

45. Erfahrungen lassen sich nur insoweit übertragen, wie die Ähnlichkeiten zwischen den Aufgaben dies rechtfertigen.

46. Dies ist ein Grund, warum mentale Modelle wichtig sind, denn sie prägen nicht nur, wie ein Werkzeug beschrieben wird, sondern auch, welche Art von Fehlern ein Nutzer zu bemerken erwartet.

47. Ein mentales Modell ist kein im Kopf verborgenes technisches Miniaturdiagramm.

48. Es ist eine praktische Erwartung darüber, was ein Objekt wahrscheinlich als Nächstes tun wird, wo es möglicherweise versagen könnte und welche Art von Aufmerksamkeit seine Nutzung erfordert, ohne dass der Nutzer jeden verborgenen Vorgang kennen muss, der eine Eingabe mit dem sichtbaren Ergebnis auf dem Bildschirm verbindet.

49. Ein nützliches Modell kann einfach bleiben, solange es den nächsten wichtigen Schritt gut genug vorhersagt und seine eigenen blinden Flecken sichtbar lässt.

50. Der Reisende muss die interne Mathematik eines Sprachmodells nicht verstehen, um zu bemerken, dass eine flüssige Ausgabe einen falschen Namen, eine verschobene Betonung oder ein erfundenes Detail enthalten kann.

51. Sobald diese Möglichkeit Teil des Arbeitsbildes wird, verliert flüssige Sprache etwas von ihrer Kraft, sich als Garantie auszugeben, während der praktische Wert der Flüssigkeit für Aufgaben erhalten bleibt, bei denen exakte sachliche Autorität von vornherein nie erforderlich war.

52. Sie kann dennoch beeindruckend sein, denn das Entfernen einer ungerechtfertigten Aura der Gewissheit hebt weder die tatsächliche Geschwindigkeit, den Umfang noch den Komfort dieser Fähigkeit auf.

53. Sie strahlt einfach keine größere Autorität mehr aus, als die Beweislage rechtfertigt.

54. Diese Unterscheidung ermöglicht es, dass Bewunderung und Vorsicht im selben Geist nebeneinander bestehen können, ohne sich gegenseitig aufzuheben, denn Vorsicht kann die Grenze der Bewunderung definieren, anstatt als Lösungsmittel zu wirken, das die Bewunderung gänzlich auflöst.

55. Oft wird angenommen, dass Skepsis die Begeisterung dämpfen muss.

56. In der Praxis kann ein besseres Modell die Begeisterung präziser machen.

57. Man kann die Geschwindigkeit eines Übersetzungstools genießen und sich gleichzeitig ein Urteil über einen Satz vorbehalten, der von großer Bedeutung ist, denn der Wert schneller sprachlicher Unterstützung hängt nicht davon ab, so zu tun, als verdiene jeder ausgefeilte Satz das gleiche Vertrauen.

58. Die Freude liegt in der tatsächlichen Leistungsfähigkeit, nicht darin, so zu tun, als habe diese Leistungsfähigkeit keine Grenzen, und sie kann sogar noch nützlicher werden, sobald ihre Grenzen als Teil des Tools betrachtet werden und nicht als peinliche Ausnahmen.

59. Dies ist eine zurückhaltendere Form des Vertrauens, die weniger auf Begeisterung für die Maschine als Ganzes beruht als vielmehr auf dem Wissen, wo ihr Nutzen tatsächlich beobachtet wurde.

60. Dazu muss das System nicht magisch sein.

61. Es ist auch nicht erforderlich, dass jeder Fehler einen Betrug aufdeckt.

62. Die gleiche Zurückhaltung gilt auch für die Ablehnung, denn Enttäuschung kann genauso wahllos werden wie Begeisterung, wenn ein einziges schlechtes Ergebnis jede Aufgabe definieren darf.

63. Wenn ein System eine lächerliche Antwort liefert, mag es sicherer erscheinen, jede nützliche Funktion über Bord zu werfen, als herauszufinden, wo die Grenze tatsächlich liegt – insbesondere wenn die fehlgeschlagene Antwort das mentale Bild des Nutzers so stark verletzt, dass sich das Misstrauen über die Aufgabe hinaus ausbreitet, in der der Fehler aufgetreten ist.

64. Diese Reaktion schützt vor Enttäuschung, indem sie die Möglichkeit einer Kalibrierung ausschließt.

65. Sie kann auch echten Wert verbergen, indem sie eine nützliche, aber begrenzte Fähigkeit unsichtbar macht, nur weil diese eine Erwartung nicht erfüllt hat, die sie nie verdient hat.

66. Eine grobe Übersetzung, eine Liste von Alternativen, eine Zusammenfassung zur Orientierung oder ein erster Entwurf können lohnenswert sein, selbst wenn das Endergebnis noch einer menschlichen Überprüfung bedarf.

67. Das wichtige Wort ist „noch“, denn die Überprüfung kann Teil einer kompetenten Nutzung sein und nicht nur ein Ritual, das erst dann durchgeführt wird, wenn uns die Technologie bereits enttäuscht hat.

68. Eine Überprüfung ist keine Beleidigung für das Werkzeug, genauso wenig wie das Korrekturlesen eine Beleidigung für den Autor ist oder die Überprüfung eines Instruments eine Beleidigung für den Ingenieur, der es gebaut hat.

69. Sie ist Teil des Konzepts, durch das eine nützliche, aber fehlbare Funktion in einem bestimmten Kontext nutzbar wird, und dieses Konzept kann so gestaltet werden, dass sich die menschliche Aufmerksamkeit auf die Stellen konzentriert, an denen Fehler tatsächlich am schwerwiegendsten wären.

70. Der erforderliche Überprüfungsaufwand sollte eher mit dem Risiko als mit dem Drama um die Technologie herum wachsen, denn ein Experiment mit geringem Risiko und eine folgenschwere Entscheidung verdienen nicht denselben Aufwand an Zeit, Vorsicht oder unabhängiger Bestätigung.

71. Eine spektakuläre Demonstration verdient in einem spielerischen Experiment möglicherweise weniger Überprüfung als ein unscheinbar wirkender Satz in einem Dokument mit weitreichenden Konsequenzen; denn was den angemessenen Überprüfungsaufwand bestimmt, ist nicht die theatralische Eindrücklichkeit, sondern die Kosten, die Erkennbarkeit und die Umkehrbarkeit von Fehlern.

72. Schein und Bedeutung driften leicht auseinander, denn ein spektakuläres Ergebnis kann von geringer Tragweite sein, während ein gewöhnlich wirkender Satz still und leise schwerwiegende Konsequenzen nach sich zieht.

73. Wir nehmen das auffällige Ergebnis wahr, weil es die Erwartungen durchbricht, während routinemäßig anmutende Fehler unbemerkt in die Ausführung gelangen können; daher ist das Ereignis, das die Aufmerksamkeit auf sich zieht, möglicherweise nicht das Ereignis, dessen Folgen eine sorgfältige Prüfung am meisten verdienen.

74. Diese Asymmetrie ist psychologisch von Bedeutung, da die Aufmerksamkeit auf das Neue gelenkt wird und nicht automatisch auf die Konsequenzen.

75. Ein Nutzer könnte daher den überraschenden Erfolg genauer unter die Lupe nehmen und den gewöhnlichen Satz übersehen, der eigentlich einer genauen Prüfung bedarf.

76. Das Problem ist nicht auf künstliche Intelligenz beschränkt, obwohl es bei Dialogsystemen besonders deutlich wird, da deren Ergebnisse in einer vertrauten menschlichen Form vorliegen.

77. Menschen nutzen routinemäßig Karten, medizinische Geräte, Navigationssysteme, Vorhersagen, Taschenrechner, Suchmaschinen und andere Hilfsmittel, deren Ergebnisse in unterschiedlichen Kontexten unterschiedlich intensiv überprüft werden müssen.

78. Was sich durch die Neuheit ändert, ist das Fehlen einer fest verankerten Intuition, sodass Nutzer über weniger überlieferte Faustregeln verfügen, um zu entscheiden, wann Vertrauen unproblematisch oder gefährlich ist.

79. Bei einem alten Werkzeug haben Generationen der Nutzung den Menschen oft beigebracht, welche Fehler häufig vorkommen, welche Signale wichtig sind und wann ein zweites Paar Augen ratsam ist.

80. Bei einem neuen Werkzeug ist dieses soziale Wissen dünner, sodass der Einzelne durch Erfahrung herausfinden muss, welche Fehler immer wieder auftreten und welche Erfolge sich nur schlecht verallgemeinern lassen.

81. Nutzer improvisieren, indem sie Gewohnheiten von älteren Werkzeugen übernehmen, beobachten, was andere tun, und ihre Erwartungen nach Erfolgen, Misserfolgen und mehrdeutigen Ergebnissen anpassen.

82. Sie übernehmen Metaphern aus älteren Technologien, ahmen die Gewohnheiten von Freunden nach, hören auf Werbeversprechen, reagieren auf Misserfolge und entdecken nach und nach, welche Erwartungen den Vergleich mit der Erfahrung bestehen.

83. Einige dieser übernommenen Gewohnheiten passen.

84. Andere passen nicht, weil ein vertrauter Vergleich genau jene Eigenschaft verbergen kann, die das neue System anders verhalten lässt als seinen vermeintlichen Vorgänger.

85. Eine Maschine, die wie ein Mensch schreibt, kann das Gesprächsvertrauen wecken, das normalerweise einem kompetenten Sprecher entgegengebracht wird, auch wenn ihre flüssige Ausgabe selbstbewusst vorgetragene Unwahrheiten enthalten kann.

86. Eine Maschine, die gelegentlich versagt, kann den gegenteiligen Irrtum hervorrufen, als ob Unzuverlässigkeit bei einer Aufgabe die Kompetenz bei einer anderen zunichte machen würde.

87. Kalibrierung bedeutet, beiden Abkürzungen lange genug zu widerstehen, um die nachgewiesene Fähigkeit des Systems bei einer Aufgabe von Annahmen darüber zu trennen, was es bei einer anderen tun muss.

88. Dabei ist jedes Mal eine gezieltere Frage erforderlich.

89. Worauf verlasse ich mich hier?

90. Manchmal ist die Antwort lediglich Geschwindigkeit.

91. Manchmal ist es die Formulierung, die sachliche Genauigkeit, die Vollständigkeit, das Urteilsvermögen oder die Fähigkeit, eine ungewöhnliche Ausnahme zu erkennen.

92. Das sind unterschiedliche Versprechen, selbst wenn sie über dieselbe Schnittstelle vermittelt werden.

93. Wer diese Aspekte voneinander trennt, kann das System freier nutzen, da Vertrauen nicht mehr alles oder nichts sein muss.

94. Freiheit entsteht hier durch Präzision, denn der Nutzer muss sich nicht mehr zwischen bedingungslosem Vertrauen und völliger Ablehnung der gesamten Technologie entscheiden.

95. Der Reisende kann eine kurze Begrüßung akzeptieren, ohne so zu tun, als sei die Maschine zu einer universellen sprachlichen Autorität geworden.

96. Derselbe Reisende kann bei einer wichtigen Vereinbarung eine zweite Überprüfung verlangen, ohne die Technologie als Fehlschlag zu erklären.

97. Die Veränderung liegt nicht in der Maschine, sondern in dem Maßstab, den der Nutzer an eine Aufgabe anlegt, nachdem er erkannt hat, was auf dem Spiel steht und was ungewiss bleibt.

98. Sie liegt in der Übereinstimmung zwischen der Aufgabe und dem Maßstab, der auf das Ergebnis angewendet wird.

99. Diese Übereinstimmung klärt auch die Verantwortung, denn wer sich entscheidet, sich auf ein Ergebnis zu verlassen, muss bedenken, wer mit den Konsequenzen leben muss, falls es falsch ist.

100. Wenn die Konsequenzen gering und leicht zu beheben sind, kann ein Nutzer vernünftigerweise mehr Unsicherheit tolerieren und weniger Zeit mit der Überprüfung verbringen.

101. Wenn die Konsequenzen groß, schwer rückgängig zu machen sind oder von jemandem getragen werden, der das Werkzeug nicht ausgewählt hat, erhält dieselbe Unsicherheit ein anderes Gewicht.

102. Diese Beobachtung liefert keine allgemeingültige Formel.

103. Sie verhindert lediglich, dass Bequemlichkeit die Konsequenzen verschleiert.

104. Die Person, die von der Geschwindigkeit profitiert, ist möglicherweise nicht dieselbe, die für einen Fehler aufkommen muss.

105. Ein Manager, Kunde, Mitarbeiter, Patient, Reisender oder Familienangehöriger kann unterschiedliche Positionen in Bezug auf dasselbe technische System einnehmen.

106. Ihre Reaktionen können unterschiedlich ausfallen, ohne dass eine Seite unwissend oder irrational ist.

107. Was aus der Perspektive eines leichten Nutzens wie unnötige Vorsicht erscheint, kann aus der Perspektive eines konzentrierten Risikos wie ganz normale Selbstschutzmaßnahme wirken.

108. Umgekehrt kann das, was wie rücksichtsloser Enthusiasmus aussieht, manchmal eine Person widerspiegeln, die eine risikoarme Anwendungsmöglichkeit gefunden hat, die das tägliche Leben wirklich verbessert.

109. Eine präzise Beschreibung der Nutzung verringert oft das scheinbare psychologische Rätsel.

110. Der Fokus der Diskussion verlagert sich von den Persönlichkeiten auf die Umstände.

111. Anstatt zu fragen, warum eine Person das neue Werkzeug liebt und eine andere es fürchtet, können wir fragen, was jeder davon zu gewinnen hofft, was jeder verlieren könnte und wie sichtbar die Fehler für sie wären.

112. Das beseitigt nicht jede Meinungsverschiedenheit.

113. Es macht die Meinungsverschiedenheit jedoch aufschlussreicher.

114. Ein ausgereifter Umgang mit Neuem ist daher keine emotionale Neutralität.

115. Er lässt Raum für Freude, Irritation, Vorsicht, Neugier und sogar für das gelegentliche Wiederaufleben purer Verwunderung.

116. Was sich ändert, ist die Anforderung, die an diese Gefühle gestellt wird.

117. Sie mögen Aufmerksamkeit erregen, müssen aber nicht das endgültige Urteil fällen.

118. Der imaginäre Reisende kann sich an der mühelosen Begrüßung erfreuen, bei dem folgenreichen Dokument innehalten und beide Reaktionen als vernünftige Antworten auf unterschiedliche Herausforderungen betrachten.

119. Auf dem Bildschirm mögen die beiden Übersetzungen immer noch gleichermaßen flüssig aussehen.

120. Der Unterschied liegt darin, zu wissen, welche einfach verwendet werden kann und welche sich erst einen genaueren Blick verdient hat.