Ingenieure nutzen die kognitive Psychologie, um herauszufinden, wie AIs denken, und um sie rechenschaftspflichtiger zu machen.
Ingenieure für künstliche Intelligenz haben ein Problem: Sie weiß oft nicht was ihre Kreationen denken.
Mit zunehmender Komplexität und Verbreitung der künstlichen Intelligenz wächst auch ihre Stärke. AI hat bereits Entscheidungen über berücksichtigt wer geht ins Gefängnis funktioniert wer erhält einen Kredit. Es gibt Vorschläge, die AI ermitteln sollte Wer hat die beste Chance zu leben, wenn ein selbstfahrendes Auto einem unvermeidlichen Unfall ausgesetzt ist?.
Die Definition von KI ist schlüpfrig und nimmt zu, da Startups das Schlagwort über alles, was sie tun, hinwegsetzen. Es ist allgemein anerkannt als jeder Versuch, menschliche Intelligenz und Fähigkeiten zu erproben. Eine Untergruppe, die sich durchgesetzt hat, sind neuronale Netze, Systeme, die wie Menschen durch Training „lernen“ und Erfahrungen in Netze simulierter Neuronen verwandeln. Das Ergebnis ist kein Code, sondern eine unlesbare, verwickelte Masse von Millionen - in einigen Fällen Milliarden - künstlicher Neuronen, was erklärt, warum diejenigen, die moderne KIs erstellen, verwirrt sein können, wie sie Aufgaben lösen.
Die meisten Forscher stimmen dem zu Herausforderung des Verstehens der KI drückt. Wenn wir nicht wissen, wie ein künstlicher Geist funktioniert, wie können wir seine Vorurteile feststellen oder seine Fehler vorhersagen?