Lustige Geschichte, seit die Leute aufhören zu denken und KI nutzen, gibt es nun auch neue Cyberbedrohungen. So im Sinne "drohe den Leuten, ihr Spielzeug weg zu nehmen, dass kommen die in Stress", ist mir gerade eine nette Phishing-Mail ins Postfach geschneit. Mir wurde gedroht, dass mein ChatGPT ausläuft, wenn ich nicht aktualisiere.
Admin-Passwörter schützen mit Windows LAPS. eBook jetzt herunterladen » (Anzeige)
Eine nette Aufforderung von "OpenAI"
Im Sinne von "betreutem Denken" hat die freundliche Firma OpenAI beziehungsweise deren Service-Team mir eine in schönem Deutsch gehaltene, sehr nette Information per Mail zukommen lassen.
Die haben festgestellt, dass mein ChatGPT-Abonnement aktualisiert werden muss, um Unterbrechungen dieses Diensts zu vermeiden. Um den unterbrechungsfreien Zugriff festzustellen, solle ich doch bitte meine Abonnementsdaten über einen eingeblendeten grünen Button (Farbe der Hoffnung) aktualisieren.
Ach so, eine leichte Drohung schwingt, in der so nett verpackten Nachricht, noch mit. Wenn ich schlampert bin, und mein Abonnement nicht innerhalb von 48 Stunden aktualisiere, kann ich im Zugriff auf Premium-Funktionen eingeschränkt werden, oder diese werden sogar ausgesetzt. Hilfe, man droht mir mit Entzug, wie soll ich da noch arbeitem können. Geht ja mal gar nicht, muss ich schnell reagieren …
Müssen schon tolle Kerle sein, die Jungs und Mädels vom ChatGPT Support-Team, und immer freundlich, immer zuvorkommend mit bitte und so. Dabei 'abe ich gar kein ChatGPT, meine lieben Supporter. Ok, Spaß beiseite, wir schlagen uns nun mit Problemen herum, die vor zwei Jahren noch keiner erahnt hat.
Gehackte Webseite als Phishing-Schleuder
Zeigt man auf den grünen "Button" zur ChatGPT-Aktualisierung und schaut man in die Fußzeile des Thunderbird-E-Mail-Clients (siehe obiges Foto), taucht da schon eine arg komische URL als Ziel auf, die so gar nicht zu OpenAI zu passen scheint.
Der erste Teil der eingeblendeten URL zur Aktualisierung der ChatGPT-Daten verweist auf eine französische WordPress-Seite, in der es um Fotografie geht. Wenn ein Empfänger einer solchen Mail seinen Verstand und das Denken nicht gänzlich mit dem Hut an der Garderobe abgegeben oder an ChatGPT delegiert hat, sollte er aufmucken.
Malware gibt es keine auf der Webseite, wenn meine Scanner nicht lügen – aber die Anmeldeinformationen seien bekannt, verriet mir einer dieser Scanner – was immer das heißen mag. Es sieht so aus, dass die Webseite von einem Phisher "zweckentfremdet" wurde. Denn die komplette URL, die in obiger Mail über die Aktualisierungsschaltfläche verweist, wird von VirusTotal als Phishing-Seite klassifiziert.
Ich hab dann die Phishing-URL noch in browserling.com auflösen lassen und bekam nachfolgendes Formular.
Neugierig wie ich nun mal bin, habe ich mal geschaut – die obige Phishing-Seite sieht sogar "fast" wie die Anmeldung bei ChatGPT aus – aber auch nur fast. Die Phisher müssen da noch besser werden.
Langer Rede kurzer Sinn: Die obige Mail ist eine klassische Phishing-Mail, die die Zugangsdaten der geneigten ChatGPT-Nutzer abgreifen möchte. In Zeiten von AI ist so was halt möglich, obwohl der Ansatz in meinen Augen grottenschlecht gemacht ist – man sieht wirklich bei allen URLs, dass die nie zu OpenAI gehören können. An dieser Stelle frage mich mich dann aber schon, wie es denn "bald" so ausschaut, wenn alles mit Vibe Coding rum macht und dann die AI-Agenten auf den Rechnern toben lässt, um solche Mail-Anfragen automatisch zu bearbeiten und zu beantworten.
PS: Ich habe dem Betreiber der Seite mal eine Nachricht geschickt, dass seine Seite entführt wurde. Mal schauen, ob eine Reaktion kommt.
MVP: 2013 – 2016
Das wäre doch lustig, wenn zukünftig oder gleich bald der Microsoft Klopilot die E-Mail bearbeitet, den Link öffnet und die im Browser ganz sicher hinterlegten Zugangsdaten, hier für ChatGPT, einträgt.
Wer haftet dann für derartige Schäden? Microsoft? Na bestimmt nicht, konnte man ja nicht ahnen.
Wenn das mit der "KI", die ja keine ist, so weitergeht, dann wird den Menschen das Denken immer mehr abhandenkommen. Die Auswirkungen bekommt man heute ja schon an allen Ecken und Enden mit, ganz ohne KI. Gebraucht werden wird in Zukunft der, der noch eigenständig Arbeiten und Denken kann.
Ist doch toll! Wer dann noch selbst denken kann ist da gottgleich* ;-P Also tolle Aussichten ;-P
*leider schon zu alt um das dann noch gebührend ausleben zu können ;-P
Heute kam auf Arte eine interessante Sendung bzgl. KI:
"KI: Der Tod des Internets".
Die Sendung wird am 9. November morgens um 6:55 Uhr wiederholt.
Gibts aber auch in der Mediathek:
https://www.arte.tv/de/videos/122187-000-A/ki-der-tod-des-internets/
Da wird die KI sehr kritisch betrachtet, eigentlich sogar ziemlich negativ.
Eine Aussage:
Weil den KI-Firmen kein echter Anwendungsfall für die KI einfällt, versuchen die ihren KI-Kram überall rein zu drücken.
Dieser KI-Kram wird die Verblödung der Menschheit deutlich beschleunigen.
*************************
Dieser KI-Kram wird die Verblödung der Menschheit deutlich beschleunigen.
*************************
Dazu braucht es keine KI ;-P Schafft die Menschheit auch vollkommen alleine… sieht man tagtäglich. Fing so ca. mit dem Millennium an und ja beschleunigt sich von da an jährlich.
Ne, das ging bei den Boomern an, die sich permanent selbst überschätzen und meinen, sie wären die Krone der Schöpfung.
Und wenn wir und jetzt vom Boomern und Millenials wieder verabschieden und uns dem Sachthema zuwenden, wird ein Schuh draus. Danke für euer Verständnis.
Man sieht ja auch schon wie der KI-Müll, die Werke der Kunstschaffenden zerstört. Erst wird das urheberrechlich geschützte Material geklaut und dann das Internet mit der "KI-Kunst" zugemüllt. Besonders bei Bildern, Musik und Literatur, natürlich auch Video's.
Der Tiefpunkt ist dann erreicht wenn sich die Menschheit komplett auf KI-System verlässt, nichts hinterfragt und jede schöpferische Tätigkeit aufgibt.
Das halte ich für Schwarzmalerei.
KI ist ein Werkzeug für Wissensrecherche, das ist grundsätzlich erst einmal nichts schlechtes.
Erst hast du einen weisen Mönchen befragt, dann bist du in die Bibliothek gefahren, später hast du im Internet/in Wikipedia nachgeschaut. Jetzt bekommst du die individuelle Antwort von deiner KI geliefert.
Jedesmal steckte ein Faktor 10 – 100 an Zeitgewinn, und da schneidet Wiki -> KI schon eher schlecht ab, absolut wie relativ.
Schon immer hat der leichtere Zugriff auf Wissen nur denen wirklich genützt, die das zu schätzen wussten. Schaut man sich um: Die meisten Leute fragen ja nicht einmal; denen hilft weder Wiki noch KI.
Die Leute, die Fragen stellen, denen hilft beides weiter, aber die KI ein bisschen schneller und genauer.
Aber die KI macht nichts alleine, schlechter Input sorgt für schlechten Output, soweit hat sich erst einmal gar nichts verändert.
Ich bin immer wieder verwundert, wie weit weg die Betrachtung von "Werkzeug" geht. Bessere Werkzeuge waren fast immer etwas positives und machen uns Menschen aus. Wer jagt sein Fleisch noch selbst? Wer hat die Worte von Papa und Mama noch im Ohr: "Irgendwann wird dein Navi mal nicht funktionieren und dann bist du froh, wenn du eine Karte im Auto hast und sie lesen kannst."
Ich habe in den 20 Jahren nie eine Karte gebraucht. Die letzte vor 10 Jahren unbenutzt entsorgt, nachdem sie 10 Jahre lang im Auto gelegen hat.
Jeder kann noch Kopfrechnen, trotzdem greifen wir bei komplexeren Aufgaben zum Taschenrechner und lachen über die, die das schon bei einfachsten Aufgaben tun.
Das gleiche bei der Rechtschreibkorrektur: Nette Unterstützung, die meisten Menschen kommen auch ohne klar, sind trotzdem dankbar dafür, dass sie hin und wieder mal einspringt.
Die ultimative Frage für mich wird sein: Wie teuer muss KI sein, wie viele Abos müssen verkauft werden, damit die großen Konzerne die Milliarden wieder reinspielen, die sie investiert haben, und dazu noch ihre Aktionäre glücklich machen. Das ist das große Thema für den letzten Beitrag.
Ich sehe deine Argumente, bin aber nach eigenen Erfahrungen und Beobachtungen näher bei HackITTo. Ich bekomme von der KI Antworten, bin aber nie sicher, ob die zutreffen. Der Aufwand, da die Spreu vom Weizen zu trennen und vor allem Halluzinationen auszusortieren ist für mich – speziell in Themen, in denen ich nicht drin bin – inzwischen so hoch, dass ich gleich darauf verzichte. Und da sind wir wieder bei der (technischen) Hypothek, die wir eingehen und wo ich frage: Können wir und sind wir bereit, diese Kosten zu bezahlen?
Wenn momentan Absolventen der Informatik in den USA kaum noch Jobs bekommen, wird das irgendwann böse zurückschlagen. Wenn Vibe Coding (mit Null Wissen eigene Anwendungen schnitzen) Schule macht, wird das das Desaster, in dem die IT steckt, noch größer machen. Das wird doch – nach meinen Beobachtungen – in seltenen Fällen hinterfragt.
Frag mal eine beliebige KI
"in welchen Jahren war der 1.1. in einer KW 53 die letzten 25 Jahre?"
oder
"in welchen Jahren war der 31.12. in einer KW 53 die letzten 25 Jahre?"
oder so ähnlich. Da kommt nur Müll raus. Widerspricht sich großteils selbst.
Habe dann doch mich durch eine Webseite mit Jahreskalendarium geklickt.
nur das das alles eben nicht mehr stimmt.
Kopfrechnen ist eben nicht mehr (aber schon lange vor KI). Wurde durch PISA mehrfach belegt. Googlerecherche können die Wenigsten noch. Nicht umsonst haben wir "Faktenchecker". Was KI oder auch das Netz sagt wird in der Masse blindlings geglaubt. Phishing ist das beste Beispiel…einfach zu durchschauen, wenn man sein Hirn nutzt, trotzdem fallen die Leute darauf massenhaft rein.
Born kann sich da natürlich freuen,verdient er doch damit sein Brot 😉
Das kannst du seitenweise so weiterführen.
Wenn "Fortschritt" eben nichts mehr nützt… Ist es kein Fortschritt!
Ich erwarte eigentlich täglich DIE (Phishing-)Mail, die mir sagt, sie sei KEINE Phishing-Mail. Muss doch für die unbedarften Leser noch viel authentischer und so viel glaubwürdiger klingen, dass auch der letzte Zweifel zerstreut würde.
Das das noch keiner drauf gekommen ist ;)
Im Moment ist das, was als KI verkauft wird, m.E. nicht mehr als ein Partytrick, mit dem man Gutgläubige (User, Investoren) hinter die Fichte führen kann. Als Werkzeug ebenso unbrauchbar wie die ganzen Assistenten, die sie jetzt in die Autos klatschen.
Meine bisherige Erfahrung mit der KI:
Die liefert entweder keine, unvollständige oder falsche Ergebnisse.
Beispielsweise habe ich bei Google mal nach einem Gerät gesucht und dort Herstellername und Gerätebezeichnung eingegeben.
In der KI-Textbox oben stand, das es ein Gerät mit dieser Bezeichnung von dem Hersteller nicht gibt.
Da drunter in den regulären Google Suchergebnissen waren aber jede Menge Treffer zu meiner Suche.
Oder andere Suche:
Ich wollte explizit alle Alternativnamen zu einem Ding.
Es gibt genau 6. Die beste KI konnte aber nur 3 nennen.
etc. etc.
Nur sehr selten mal ist die Antwort der KI korrekt und vollständig.
Die herkömmlichen Ergebnisse der Suchmaschinen sind da sehr viel genauer und zielführender.
KI erzeugt nur Mehraufwand, da man jedes Ergebnis noch extra auf Korrektheit und Vollständigkeit prüfen muß.
Und da verzichte ich auf KI, denn Mehraufwand brauche ich nicht.
Das Interessante ist doch immer noch, das es Programmcode ist, kein natürliches Denken. Maschinensprache von technischem Gerät, eben keine Intelligenz.
0 und 1 Sprech.
100% korrekt. Es werden die Wahrscheinlichkeiten zum Vorkommen von Begriffen in einer Nähe zueinander in Quellen ermittelt und dann Antworten mit anderen Begriffen, die da auch in der Nähe sind ausgewürfelt und dann daraus eine grammatikalisch einigermassen sinnvolle Antwort generiert. So funktioniert LLM technisch.
Grundsätzlich hab ich schon positive Erfahrungen mit KI gemacht. Ich würde auch bestimmte Argumente nicht unterstreichen, dass man sich nichts mehr merkt.
Das ist immer stark abhängig von der eigenen Motivation und welchen Nutzen die Info für einen hat.
Die Qualität der Antworten hängt halt stark am Prompt selbst. Je mehr Infos man geben kann, desto mehr ist das Ergebnis an dem dran, was man haben möchte. Da kann ein Prompt schon mal länger sein, als das Ergebnis, das dabei rauskommt. Da muss man aber selber überlegen, ob es in dem Fall dann Sinn macht.
Ich finde es als Werkzeug grundsätzlich gut. Aber nur als Werkzeug.
Unternehmen meinen oft, dass KI einen guten Arbeiter ersetzen kann. Einen guten kann sie aber derzeit nach meiner Erfahrung nicht ersetzen.
Aber das ist auch der Tatsache geschuldet, dass das Betriebsergebnis jedes Jahr noch weiter und noch weiter steigen muss, obwohl es eh hervorragend ist. Mit KI wird das auf Dauer aber nicht funktionieren.
Was die Situation von Entwicklern angeht. Ich bekomm das grad auch ein wenig mit. Jeder will nur noch Senior-Developer. Die jungen Leute studieren und müssen sich dann mit der Jobsuche plagen, weil sie erst Juniorstatus haben. Aber wie sollen sie was lernen, wenn sie die Chance nicht bekommen.
Meiner Meinung nach sollte das ein gute Mischung sein. Der Junior kann von der Erfahrung des Senior Developers profitieren und der Senior vom frischen Wind des Juniors. Es ändert sich doch ständig was. Die Unternehmen die das anders handhaben (also nur auf Senior-Developer setzen), tun sich auf Dauer keinen Gefallen damit.
Und ja, leider gibt es immer Leute die ein gutes Tool nur für Müll verwenden. Das wird sich aber nie ändern, solange es Menschen gibt.
Ich kenne ein gegenteiliges Beispiel: Wir bekamen Kreditkarten von Givve, die monatlich mit einem fixen Betrag aufgeladen werden. Alle bekamen eine Mail mit der Aufforderung sich einzuloggen und den Account zu aktivieren. Alle haben die Mail als Spam angesehen und gelöscht.
Dann waren alle schlecht vorbereitet.