Einige mögen es bemerkt haben, daß ich nicht mehr so häufig hier schreibe.
Da geht es mir wie einigen anderen aus dem “kleinen Web”. Seit die Anbieter von LLMs — laut deren Vertriebsabteilungen “KIs” 1 milliardenfach Inhalte von uns natürlichen Intelligenzen abschnorcheln, hat sich bei mir eine gewisse Demotivation eingestellt. Offenbar gibt es bei milliardenfacher Urheberrechtsverletzung Massenrabatt.
Warum sollte ich den schönen Schein befördern, daß es sich bei den — teils durchaus praktischen und schnellen — großen Sprachmodellen (LLMs) um mehr als eine bessere Textvervollständigung handelt?
Ich habe das Thema von Beginn an begleitet und auch immer wieder diese angeblichen Intelligenzen befragt und wurde — da ich in vielen Nischenthemen unterwegs bin — ein ums andere Mal enttäuscht. Ja, ein gewisser Nutzen ist nicht abzustreiten, aber wenn Google nicht mittlerweile vollständig der Enshittification anheimgefallen wäre, wäre auch der Mehrnutzen von LLMs deutlich beschränkter.
Das was diese Teile gut können ist, sehr überzeugende Antworten hinzuhalluzinieren. Sie sollen und “wollen” hilfreich sein, aber sind es am Ende doch nicht, weil sie den Anwender am anderen Ende — also mich als Menschen — aufs Glatteis führen. Das kann durchaus zu einer großartigen Zeitverschwendung führen. Inzwischen habe ich aber einige Tricks um direkt zu bemerken wann ein LLM keine sinnvolle Auskunft mehr geben kann.
Der Blogbeitrag von Marcus Hutchins: Every Reason Why I Hate AI and You Should Too (englisch!) bringt zu mehr als 90% auf den Punkt, was ich zum Thema aktuell selber denke. Das ist umso interessanter, als er auch mit Malware zu tun hat 2. Entweder liegt es daran daß bei diesem — und angrenzenden Themengebieten — einfach zu wenig Trainingsmaterial existiert, welches den LLMs ermöglichen würde den Anschein von Intelligenz aufrechtzuerhalten, oder es ist auf andere Weise besser zur Überführung der LLMs als Textvervollständigung geeignet als andere Themengebiete.
Da uns die “AGI” 3 ja angeblich bevorsteht und uns alle unsere Arbeit wegnehmen wird, sehe ich nicht ein, warum ich denen, die damit kokettieren mir meinen Lebensunterhalt wegzunehmen, auch nur einen Iota an Erkenntnissen auf dem Silbertablett liefern sollte.
Ich habe auch schon damit geliebäugelt den Blog komplett einzustellen, bin mir aber dessen noch nicht sicher genug um es auch zu tun. Mach mich diese Einstellung zum Ludditen? Ansichtssache! Ich hoffe ja noch daß sich die schon jetzt sichtbare Rückkoppelung 4 sich fortsetzt und beschleunigt.
LLMs können natürlich noch etwas außer überzeugend ihre Halluzinationen zu präsentieren: sie können Code mit niedriger Qualität erzeugen. So mehrfach erlebt und gehaßt. Vermutlich wird es in Zukunft vermehrt eine Aufgabe von erfahrenen Entwicklern sein den mithilfe von LLMs hingerotzten Code zu kontrollieren und zu verbessern. Mal sehen wie lange sich das alternde, erfahrene Entwickler gefallen lassen. Denn aktuell scheint die Zielvorgabe ja zu sein den Nachwuchs für erfahrene Entwickler — eben frische Einsteiger — auszuhungern.
Das Politiker und diverse Manager im Treiben der LLMs echte Intelligenz zu erkennen vermeinen, will ich einmal wohlwollend unkommentiert lassen.
// Oliver
PS: übrigens sind alle bisher jemals in diesem Blog erschienenen Beiträge in meinem Hirn und ohne Hilfe eines LLM entstanden. Das will jetzt nix heißen … aber da mittlerweile hinter der Benutzung von Em-Dashes das Werk von LLMs vermutet wird, will ich darauf verweisen, daß ich seit langer Zeit von Werkzeugen wie eigenen Tastaturlayouts und Espanso gebrauch mache! Die Nutzung von “—” ist also allenfalls ein Hinweis darauf, daß ich als LaTeX-Anwender mit Typographieaffinität versuche die einfachen “-” nicht überzustrapazieren …
- also “künstliche Intelligenzen” oder neudeutsch “AIs”; “artificial intelligences” …[↩]
- … eine sehr interessante Biografie, wenn er auch um einiges jünger und offenbar talentierter ist! …[↩]
- Der Ersatzbegriff, nachdem man den ursprünglichen Begriff “AI” auf LLMs umgemünzt — und damit verbraucht — hatte[↩]
- LLMs werden zunehmend auch an dem von Ihnen zuvor generierten Mist trainiert; die Qualität sinkt also asymptotisch gegen Null.[↩]
Hallo Oliver,
Ich schreibe dir ein paar Zeilen, weil ich es ziemlich bedauere, dass du dich so fühlst. Besonders, weil du mich seit meinen Anfängen in der Arbeitswelt, sogar noch kurz davor in den letzten Jahren der Realschule begleitest und ich durch dich bzw. deinen Code so viel gelernt habe.
Du hast mir damals beigebracht, was es bedeutet keinen Code zu schreiben, dass man auch durchaus ohne VCL klar kommt. Im Prinzip war das unbewusst, ich habe so einige damals in meine Tools übernommen und erst später realisiert, dass „keiner“ Assembler nutzt und kaum auf die Code-Größe achtet. In der Ausbildung wurde mir dann klar wie viel näher mich das „an die Maschine“ brachte als „normale“ Entwickler.
Das hat mich dann auch bewegt in die IT Security zu gehen. Mehr low-Level zu machen, reversen und dann auch meinen Studenten die Nähe und den Vorteil der Hardware klar zu machen. Generell einfach weniger „verschwenden“ und erstmal versuchen mit dem klar zu kommen was man hat, bevor man doch „die Cloud“ drauf wirft. (Was in vielen Fällen bei uns nicht möglich ist, da wir unsere Klientendaten nur lokal verarbeiten, aber das schweift ab).
Nun zurück zu dir. Ich verstehe dich, dass du die „AI Bubble“ nicht weiter füttern willst, wie du sagst, schöne Textvervollständigung, aber leider nicht viel mehr. In jedem Fall ein herzliches Danke! Über all die Jahre, deine Berichte aus Island, der Wechsel in die AV Branche und deine anderen Blog-Themen habe ich immer mit Begeisterung gelesen.
Vielen Dank!
ps. EDA-preview ist nach wie vor in meinem „tools“ Ordner am Start, wenn man wieder ein Installer denkt er müsste Optionen „ausgrauen“ oder so. Zwar ist mein Delphi-Fu nicht mehr wirklich vorhanden, aber ich blicke sehr gerne auf die Zeit zurück und das ist (zu einem gewissen Teil) auch dein Verdienst!
Hallo Markus,
erst einmal danke für die netten Worte. Die gehen natürlich runter wie Öl
Oho. Naja den Blog gibt’s ja nun auch fast zwei Jahrzehnte. Wie die Zeit verfliegt.
Das freut mich unheimlich. Gerade im Beruf sieht man immer wieder wie wenig die alten Tugenden hochgehalten werden. Sie führen teils nur noch ein Nischendasein wenn’s mal spürbar langsam wird. Ansonsten halt mehr Arbeitsspeicher und CPU-Leistung draufwerfen und dann wird es schon irgendwie gehen.
Oh cool, ein Kollege sozusagen. Wichtiges und vor allem spannendes Thema!
Mir ging und geht es ja nicht einmal allein um den Verschwendungsaspekt. Aber wenn man nicht einmal die Grundlagen dessen versteht, wie bspw. Windows “unter der Haube” funktioniert, ist das bitter — zumal wenn man für diese Plattform entwickelt.
Sehr schön wurde mir das einmal demonstriert als ich darauf hinwies daß die vermeintlich modalen Dialog in einer WPF-basierten Anwendung eben überhaupt nicht modal waren. Das führte aufgrund von Nebenläufigkeit zu Crashes. Wäre in diesem Fall das Verständnis da gewesen daß ein modaler Dialog sein Elternfenster deaktiviert und damit effektiv auch die Fensternachrichten unterdrückt, wäre man wie von allein auf die Lösung gekommen. Stattdessen wird belächelt wenn ich erwarte daß ein angeblich modaler Dialog sich per Enter und Escape beenden läßt. Nunja …
Immer gern. Es freut mich natürlich wenn meine Beiträge Interesse wecken oder sogar helfen.
Ich bin auch nicht weg, sondern wollte mich sozusagen meinem weitestgehend unbekannten — und vermutlich eher überschaubaren — Publikum gegenüber sozusagen nur rechtfertigen, warum ich aktuell wenig “abliefere”.
Hihi, ja ich habe das auch noch am Start und hatte ein paarmal überlegt ob ich es in C, oder inzwischen Rust oder Zig neu implementiere.
Das Thema Delphi sieht bei mir ganz ähnlich aus. Man würde sich vermutlich schnell wieder reinfinden, wenn man müßte. Aber im Rückblick scheint es doch beschwerlich sich die ganzen header in Delphi-Units zu übersetzen usw. Wobei man heute natürlich mehr Optionen hat das bspw. per Clang zu automatisieren.
// Oliver
Ich betreibe und schreibe meine Blogs in erster Linie für mich selbst. Mein Buch habe ich unter einer CC-Lizenz veröffentlicht, verdiene damit aber auch nicht mein Geld. Ich verdiene mein Geld immer noch mit Dreck unter den Fingernägeln.
Dass sich die LLMs mit fremdem Content eine goldene Nase verdienen ist sicher unschön, aber das haben Google&Co. davor im Prinzip auch schon gemacht. Und Aufmerksamkeit ist die neue Währung im Netz. Wenn ich also eine exklusive digitale Fähigkeit hätte mit der ich gutes Geld verdiente und die durch Kopieren entwertet würde, dann würde ich die auch nicht einfach so frei ins Netz stellen, ganz unabhängig von “KI”.
Allerdings besteht dann trotzdem die Gefahr, dass irgendwer anderes auf die gleiche Idee kommt, sie ins Netz stellt oder eine “KI” darauf ansetzt. Dann hätte ich einen Job, der generell durch die “KI” gefährdet wäre wie Übersetzer, Busfahrer o.ä. und eben auch Programmierer.
Mit den diversen LLMs habe ich auch schon so meine Erfahrung gemacht. Da gilt aber im Grund was auch sonst im zwischenmenschlichen Umgang miteinander gelten sollte bzw. bei mir gilt: ich teste meine Mitmenschen auf ihre Zuverlässigkeit. Und das Gleiche mache ich mit den LLMs (gerade ist “Kimi K2” dran). Da versuche ich die LLM auf’s Glatteis zu führen, also nur Dinge frage wo ich selbst Ahnung habe und die Antwort kritisch beurteilen kann. Wie bei den Sumas oder schon das Fernsehen vorher muss man eben schon was wissen um durch die LLMs schlauer zu werden. Je mehr man selbst schon weiß, um so nützlicher sind die LLMs. Die Ergebnisse sind bisher durchwachsen und oft muss man dem LLM die richtige Antwort wie Würmer aus der Nase ziehen. Einerseits enttäuschende Ergebnisse, andererseits überraschend gute, wo ich selbst stundenlang hätte googlen müssen. Mitunter bekam ich die Bestätigung, dass meine ergebnislose Suche von Hand korrekt war und das LLM auch keine Quelle für die gesuchte Info finden konnte. Aber eben auch völlige Phantasieantworten, wo das LLM zugeben musste, mich verarscht zu haben. Man kann ja immer kritisch nachfragen z.B. auf welche Quellen sich das LLM beruft und dann nachschauen ob das denn stimmt was das LLM behauptet. Und wenn ich dann irgendwann doch mal eine Antwort bekomme, deren Richtigkeit ich nicht (gleich) überprüfen kann, dann kommt die eben mal erst auf den indifferenten Stapel “kann man glauben oder auch nicht” bis sich bessere Erkenntnisse ergeben.
Mein bisheriges Fazit: das LLM ist am Ende eben auch nur ein Mensch. Und Irren ist menschlich.