Büchse der Pandora: Die Gesundheitsdaten, KI (Copilot, Adobe AI) und der Patienten-/Datenschutz

Gesundheit (Pexels, frei verwendbar)In den letzten Wochen gab es hier im Blog ja einige Beiträge zu gravierenden Cyberangriffen auf Anbieter im Medizinbereich. Weiterhin haben wir gelernt, dass Adobe im Acrobat Reader eine AI-Lösung einführen möchte, die PDF-Dokument auswerten kann. Und drückt Microsoft an allen Stellen sein Copilot in Produkte und hat sogar einen CoPilot+PC angekündigt, dessen Recall-Funktion alle Aktivitäten erfassen und speichern kann. Soll alles "sicher" passieren, wird aber der GAU für Patienten- und Datenschutz im Medizinbereich. Die Büchse der Pandora wird hier gerade geöffnet. Hier einige Informationen und Gedanken dazu.


Anzeige

KI auf dem Vormarsch

Seit der Hype um künstliche Intelligenz losgetreten wurde, gibt es ja keine Woche ohne neuen Ankündigungen mehr. In diesem Kontext sind mir mehrere Ereignisse der letzten Wochen im Hinterkopf geblieben, die nahelegen, den gesamten Themenkomplex als extrem kritisch und unter "wehret den Anfängen" abzulehnen.

  • Es gibt das Ansinnen des Anbieters Adobe, seinen PDF-Reader und auch Acrobat mit AI-Funktionen zum Scannen der PDF-Dokumente auszustatten. Das soll schrittweise einführt werden, wie ich im Beitrag Deaktiviert das Scannen von Dokumenten durch Adobe AI-Lösungen vom 23. März 2024 angesprochen habe. Zum 26. März 2024 erreichte mich die Mail einer im Auftrag von Adobe arbeitenden Kommunikationsagentur, die um Löschung des Blog-Beitrags bat, da angeblich nicht korrekt. Ich habe den Sachverhalt und die offensichtlichen Widersprüche im Beitrag aufbereitet, der Beitrag ist im Blog geblieben (eine Redaktion hat ihren Beitrag gelöscht). Und nun darf jeder seine Phantasie spielen lassen, PDF-Dokumente sind allgegenwärtig, sollten in der elektronischen Patientenakte zugelassen werden und Adobe-Produkte zur Anzeige sind fast durchgehend auf den Clients installiert.
  • Dann hat Microsoft Mitte Mai 2024 seinen Copilot+PC-Ansatz vorgestellt, wobei einem Funktion namens Recall meine besondere Aufmerksamkeit geweckt hat. Die Funktion protokolliert alle Aktionen eines Nutzers und wertet diese aus – Ziel ist es, dem Benutzer den Zugriff auf das zu gewähren, was er in der Vergangenheit gemacht hat. Der nette Nebeneffekt: Man hat eine perfekte Wanze installiert, und der Personal Computer ist nicht mehr persönliches Arbeitsmittel, sondern Überwachungsinstrument. Dass das Versprechen Microsofts, alles ist lokal und sicher, Lug und Trug ist, hatte ich im Beitrag Copilot+AI: Recall-Sicherheitsdesaster- KI-gestützter Diebstahl aufbereitet.

Es gab noch einen weiteren Fall, der ebenfalls Wellen schlug (oder eben auch nicht): Beim Online-Mediziner Dr. Ansay konnten Patienten sich Cannabis-Rezepte ausstellen lassen. Die Verschreibung von Cannabis-Produkten über Ärzte ist sicherlich für bestimmte Patientengruppen ein Segen. Ob man aber unbedingt bei einem Internetversender ordern muss? Durch einen groben Fehler waren die georderten Rezepte als PDF-Dokumente öffentlich über deren Webseite abrufbar und wurden durch Suchmaschinen indexiert. Selbst als die Rezepte bereits gelöscht waren, ließen sich deren Metadaten noch über Wochen in Bing oder DuckDuckGo abrufen. Und damit komme ich schon zu einem Thema, was mich länger umtreibt: "Sorgen die KI-Assistenten bald dafür, dass solche Informationen demnächst im Internet abrufbar sind?"

Büchse der Pandora, das neue Normal?

Und jetzt postulieren wir mal, dass das Groß der Rechner in Praxen mit Windows läuft, auf denen Arztbriefe geschrieben, Patientendaten gelesen und verarbeitet sowie Behandlungen dokumentiert werden. Microsoft klatscht ja bei allem und jedem seinen Copilot mit auf die Systeme drauf und das Teil soll Dokumente auswerten. Auch die in Windows 11 23H2 kommende und oben erwähnte Recall-Funktion ist bisher in Windows Insider Previews standardmäßig aktiv.

Redmond bietet zwar die Möglichkeit für Administratoren, das "Herausreichen von Dokumentinhalten aus einer Unternehmensumgebung" zu konfigurieren. Aber hey, das wird schlicht nicht funktionieren – ich habe mir einige Microsoft-Dokumente diesbezüglich angesehen. Der Administrator ist immer der Arsch: Klappt was nicht, hat der Admin schuld. Geht was schief, wird der Admin den schwarzen Peter bekommen.

Und in jeder Praxis werden PDF-Reader auf den Rechnern installiert, sobald dort PDF-Dokumente anfallen werden. Beim kleinen Therapeuten um die Ecke wird kein IT-Betreuer arbeiten, da richten sich die Leute den PC selbst ein oder bitten einen Freund, der Computer richtig schreiben kann, um Assistenz.

Möglicherweise bekommt es noch die eine oder andere IT-Betreuung einer größeren Praxis hin, diese AI-Funktionen zu deaktivieren und das Auswerten von Aktionen und Inhalten zu verhindern. Aber das sind dann Ausnahmen. WhatsApp zur Patientenkommunikation, offene Praxissysteme für jeden zugänglich und mehr "Grausamkeiten" hatte ich in IT aus der Hölle im Gesundheitswesen: Schlimmer geht's (n)immer thematisiert – das war ein Bericht aus der Praxis.

Im Kontext der obigen Artikel und Sachverhalte gehen mir nun noch weitere Gedanken durch den Kopf. Die Zukunft sieht düster aus, wenn es um Gesundheitsdaten und Datenschutz geht.

 Deal zum EU-Gesundheitsdatenraum: Kontrollverlust der Patienten über ihre Gesundheitsdaten


Anzeige

Wir werden gerade Zeuge, wie US-Firmen um Microsoft seinen CoPilot auf die Anwenderschaft los lässt und beispielsweise auch Adobe in den Startlöchern steht, um PDF-Dokumente per AI auswerten zu können. Die Geschehnisse um den Blog-Beitrag Deaktiviert das Scannen von Dokumenten durch Adobe AI-Lösungen zeigen, mit welch harten Bandagen da bereits gearbeitet wird. Wenn ich jetzt nochmals einen kleinen Szenenwechsel vornehme kommt die Erkenntnis: In jeder Arztpraxis, bei Therapeuten, in Apotheken etc. läuft dieses Windows, in Office werden Arztbriefe verfasst und die elektronische Patientenakten wird auch auf solchen Systemen gepflegt. Adobe PDF-Reader dürften ebenfalls zu finden sein.

Von Adobe wurde unfreiwillig in der Mail mit der Aufforderung zum Entfernen des Blog-Beitrags belegt, dass Daten zur Auswertung nach außen gegeben werden. Es heißt zwar "alles ist sicher, Verarbeiter haben Verpflichtungserklärungen unterschrieben). Aber was uns nach wenigen Jahren flächendeckendem AI-Einsatz droht, habe ich im Beitrag Lethal Injection: Microsoft AI-Bot für das Gesundheitswesen mal eben gehackt skizziert. Ein Prompt Engineer untersuchte Plattformen für das Gesundheitswesen, die auf Basis von Microsoft-Technologie arbeiteten. Über eine Reihe von Schwachstellen konnte er auf Gesundheitsdaten von Patienten zugreifen, die eigentlich nicht zugänglich sein sollten.

Und mit Microsofts Recall hält endlich eine Wanze in die Windows-Systeme Einzug, auf die die Geheimdienste, Strafverfolger und auch Cyberkriminelle niemals zu hoffen gewagt hätten. Da bewegen wir uns auf dystopische Zustände zu, gegen die Orwells 1984 ein Klacks ist. Und ich habe noch eine schlechte Nachricht: Die Büchse der Pandora ist geöffnet – Du kannst nur noch versuchen, möglichst wenig Daten über dich entstehen zu lassen. Noch stemme ich mich mit Blog-Beiträgen wie diesen gegen den Trend – aber es sieht nicht gut aus.

Ähnliche Artikel:
Gesundheitsgesetze I: EU-Parlament macht Weg für EU Health Data Space (EHDS) frei
Gesundheitsgesetze II: Bundestag beschließt Digitalisierung im Gesundheitswesen (GDNG, DigiG)
Gesundheitsgesetze III: Mit Digitalisierung planlos ins Desaster?
eRezept ab 2024 verpflichtend – Ungereimtheiten führen zum Desaster
Digitalisierung im Gesundheitswesen: Kelber kritisiert ePA, Schutzlos gegen Cyberangriffe
Europäischer Gesundheitsdatenraum (EHDS) beschlossen – die Haken für Patienten
IT aus der Hölle im Gesundheitswesen: Schlimmer geht's (n)immer
Nachlese: Software-Sicherheitslücken in Mikropro Health in deutschen Gesundheitsämtern
Lethal Injection: Microsoft AI-Bot für das Gesundheitswesen mal eben gehackt
NCA-Insides: Lehren aus den Hacks im Gesundheitswesen

Deaktiviert das Scannen von Dokumenten durch Adobe AI-Lösungen
Copilot+AI: Recall-Sicherheitsdesaster- KI-gestützter Diebstahl
Cannabis-Rezepte Datenleck: CEO Dr. Jur Ansay sucht die Schuld bei anderen
Autsch: Datenleck bei Dr. Ansay, Cannabis-Rezepte in DuckDuckGo sichtbar
Nachlese Datenschutzvorfall mit Cannabis-Rezepten bei Dr. Ansay
Lethal Injection: Microsoft AI-Bot für das Gesundheitswesen mal eben gehackt


Cookies blockieren entzieht uns die Finanzierung: Cookie-Einstellungen

Dieser Beitrag wurde unter Sicherheit abgelegt und mit verschlagwortet. Setze ein Lesezeichen auf den Permalink.

27 Antworten zu Büchse der Pandora: Die Gesundheitsdaten, KI (Copilot, Adobe AI) und der Patienten-/Datenschutz

  1. Pau1 sagt:

    Schöne Neue Welt

  2. R.S. sagt:

    Was den Fall Dr. Ansay angeht:
    Selbst wenn Suchmaschinen da nichts mehr finden heißt das nicht, das diese Daten nicht immer noch abrufbar sind.
    Es gibt ja schon lange Internet-Archivdienste, wie z.B. Archive.org, die regelmäßig das Internet scannen und Kopien der Inhalte speichern.
    So kann man da z.B. auch lange nicht mehr existierende Webseiten finden oder sich mal anschauen, wie eine Webseite vor 10 Jahren ausgesehen hat.
    Und wenn diese Archivdienste zufällig auch im betreffenden Zeitraum die Seiten des Internetversenders besucht haben, haben die auch entsprechende Kopien angelegt.
    Sie wären dann auch heute noch einsehbar.
    Wie heißt es doch: Das Internet vergisst nichts!

    Und dann kommt noch diese AI-Geschichte ins Spiel.
    Das Beste wäre es, auf eine einsame Insel auszuwandern oder in ein Land mit quasi nicht vorhandener Digitalisierung.

  3. Daniel sagt:

    So langsam wünscht man sich die Offlinewelt zurück wo Briefe noch per Post oder Fax versendet wurden. Also richtiges Fax nicht die heutigen Lösungen wo das auch gleich beim Empfänger zur PDF wird.

  4. Hobbyperte sagt:

    Wessen "Gesetz" war das doch gleich? Murphys?
    -> ALLES was machbar ist, wird früher oder später auch irgendwo, von irgendwem gemacht …

    Nur weil bspw. einige Länder Vereinbaren dies oder jenes nicht zu tun, heißt das nicht, das es nicht doch von anderen getan wird …
    Warum lehnen ausgerechnet die ach so "demokratischen" USA zb. Strafverfolgung von internationalen Gerichten zu Kriegsverbrechen ab? Und beharren zugleich auf internationales Recht an anderer Stelle (wo es ihnen nutzt) … Man kann biologische Kampfstoffe, Atomwaffen, Minen, Drohnen (telematische Ferntötungs-Maschinen), autonom (tötende) AI-Kampfrobotter und sonst was "ächten", trotzdem werden diese Dinge von "bösen Schurkenstaaten" Eingesetzt, Entwickelt und genutzt werden. Und ein Land das sich verpflichtet hat solche Mittel nicht zu besitzen, vielleicht aber eines Tages damit Angegriffen wird, steht dann ziemlich blöd da. Schon wegen dieser Logik sind solche Verträge an sich sinnfrei. Weil man aus Vernunftgründen eigentlich gezwungen ist, so etwas zumindest für den Fall der Fälle auch zu haben … und wenn man es erst einmal hat … tja, da beißt sich die Katze in den eigenen Schwanz.

    Das Waffen-Thema scheint hier nun vielleicht deplatziert. Im Grunde ist es mit diesem KI/Ai -Mist aber genau das selbe. Eine Technik die erst einmal existiert, findet so oder so den Weg in die Praxis und durchdringt das Leben letztlich auch bis in die intimsten Bereiche.
    Zum Gegenwärtigen Zeitpunkt mag es nur eine Vermutung sein, jedoch eine die mit "an Sicherheit grenzender Wahrscheinlichkeit" Eintreten wird, dass sich nämlich viele Science-Fiction Horror Dystopien auf die ein oder andere Weise realisieren werden, sofern nicht in Teilen bereits geschehen … siehe wie das Internet, Smartphones und Gesichtserkennung in China zur Massenüberwachung und -Steuerung schon seit Jahren genutzt werden.

    Die Älteren können froh sein, den größten Teil ihres Lebens noch in einer anderen Zeit gelebt zu haben … die jüngeren und Folgegenerationen müssen da nun wohl durch. Was auch immer am Ende dieses vermeintlichen "technischen Fortschrittes" stehen mag. Ich sag's nur wieder mit den Worten von Fringe: "Zerstörung durch Fortschritt"!

    Nochmal kurz zum Verständnis: die meisten Forscher entwickeln Technologie nicht mit dem Gedanken, diese für Kriegszwecke und ähnliches zu verwenden. Sondern wollen ja nur das Beste … die damals an der Kernspaltung forschten, wollten auch nur die Energie nutzbar machen … tja …

    Und wer da glaubt, das man zb. Kernfusion nur friedlich nutzen könnte, denkt die Dinge nicht zuende … womöglich gibt es eines Tages portable Fusionsreaktoren, welche genug Energie für Laserwaffen bereit stellen … damit könnten Ronald Reagans SDI -Phantasien doch noch Realität werden. Aber auch Angriffswaffen auf Lastwagen, diese werden ja bereits entwickelt bzw. sind teilw. schon Einsatzfähig, nur die Energieversorgung schränkt deren Verwendungszwecke noch stark ein …

    Die einzige Lösung die Welt in Ordnung zu bringen und friedlich zu halten wäre vielleicht, die pseudointelligenten von der Macht fern zu halten. Was aber nicht einmal in den westlichen Pseudo-Demokratien funktioniert. Da auch hier die politischen Systeme so konstruiert sind, das die Macht nicht wirklich vom Volk ausgehen kann, sondern von diversen "Eliten" fest unter Kontrolle gehalten wird. Ohne weiter darüber zu spekulieren, wer nun diese Eliten im Detail sind. Da gibt es schon genug Verschwörungstheorien, die gewiss allesamt Unsinn sind. Aber schaut man sich Parlamentarier und Kabinette an, müsste eigentlich jedem dessen Hirn noch funktioniert auffallen, was da nicht stimmt, nicht funktioniert. Leute mit irgendwelchen Titeln sitzen auch in Konzernen zumeist an der Spitze. Solche Titel verfügen jedoch über wenig Aussagekraft über das Intelligenzniveau ihrer Inhaber. Zumal Intelligenz "etwas" komplexer ist, als es diverse Teste Glauben machen wollen. Teste decken immer nur ein Teilgebiet ab, aber nie das vollständige Spektrum, welches zudem viel mehr als nur Wissen und Fähigkeiten umfasst. Auch Ethische Maßstäbe, Treue und Zuverlässigkeit, Emotionale Sensibilität und vieles der Gleichen mehr gehören dazu, sind aber kaum objektiv darstellbar / messbar. Daher sagen Intelligenz-Teste genau GAR NICHTS über den tatsächlichen Geisteszustand einer Person aus. Titel und Teste sind Trugbilder und lediglich ein Teil des Systems, welches die Unteren unten und die Oberen oben halten soll …

    Oder ganz kurz gesagt: der Egoismus ist die stärkste Kraft, welche das Schicksal der Menschheit von Anfang an voran getrieben und zugleich besiegelt hat. Der Mensch an sich ist nicht vernünftig, es gibt keinen "gesunden" Menschenverstand. Und die Zahl der "Gerechten" (Normal-Abweichler) ist zu klein um das große Ganze zu verändern, zu retten.

    • Luzifer sagt:

      Naja die Abschreckung im Kalten Krieg hat funktioniert! Muss man sich auch eingestehen. Jeder weis wen einer die Atombombe einsetzt laufen automatisch die Abwehrprozeße an und vernichten den Agressor… selbst wenn das angegriffene Land um ist. Die Abrüstung hat erst Kriege in Europa wieder möglich gemacht.
      Was glaubst du wohl warum Putin keine Atombomben in der Ukraine einsetzt? Er weis genau dann ist auch Russland Geschichte. Allerdings ist der auch zu Machtversessen, sollte er verlieren und es ihm an den Kragen gehen, besteht die Gefahr das er sich sagt scheiß drauf und im eigenen Regime ist ja niemand der ihn stoppen könnte, dafür hat er gesorgt.
      Warum ist den die NATO nicht in der Ukraine?
      Zusehen und Waffen und Munition liefern…
      und seine eigene Handlungsfähigkeit dadurch minimieren…

      Die Nato verpulvert derzeit ihr Material in der Ukraine, die BW ist derzeit schon nicht mehr ernstzunehmen… kaum einsatzfähig.

      SDI wäre heute schön zu haben ein Satellitennetz welches jede Rakete vom Himmel holen könnte und jeden Punkt dieses Planeten gezielt ausschalten könnte… hätte den "Angriff auf die Ukraine" verhindert.

      Für den Planeten wäre es sowieso das Beste wir würden uns selbst ausradieren und einer "besseren Spezies" platz machen.

      • User007 sagt:

        Den Planeten interessiert das genau Null, welche Spezies auf ihm als dominante Art wandelt – und das Andere schaffen wir schon auch noch! 🤷‍♂️

    • Andy sagt:

      ~~~
      Wessen "Gesetz" war das doch gleich? Murphys?
      -> ALLES was machbar ist, wird früher oder später auch irgendwo, von irgendwem gemacht …
      ~~~
      Nein, Murphys hatte einen anderen Inhalt.
      Deins wäre vielleicht am ehesten inhaltlich dem Buch "Die Antiquiertheit des Menschen" (1956, über die Seele im Zeitalter der zweiten industriellen Revolution) von Günther Anders zu entnehmen:
      Im Zeitalter der Technik wird alles, was machbar ist, auch gemacht.

      Der Autor hat ganz insbesondere in Folge der Atombombenabwürfe interessante philosophische Thesen aufgestellt, u.a. die vom „prometheischen Gefälle" und der „prometheischen Scham".

      Normalerweise würde ich sagen: schau doch nach, wenn Du nicht weißt, von wem das ist. In diesem Falle bedanke ich mich mal, weil ich durch Deine Frage animiert wurde, mal selbst nachzuschauen und dabei scheinbar interessanten Lesestoff gefunden habe.

  5. Rocco Siffredi sagt:

    Was mir in Gesprächen mit Kunden, Freunden und Bekannten zum Thema KI immer wieder auffällt ist, dass die meisten der Ansicht sind, „DIE KI" sei so eine Art monotheistische Weltreligion. Nur wenige haben realisiert, dass sowohl Apple, als auch Microsoft, Google, Adobe etc. und selbstverständlich auch Regierungen weltweit ihre eigenen KIs stricken.

    Die ehemalige DDR Staatssicherheit hätte sich einen Ast in die Hose gefreut, hätte es die heutigen Möglichkeiten schon damals gegeben. Und das Volk stellt sich die Überwachungsmechanismen auch noch freiwillig in die Wohnungen, weil es ja so schick ist.

    • McAlex777 sagt:

      "Die derzeitige KI" ist nicht bewusst/intelligent, sondern repetitiv/wiederholend selbstlernend – und wird von Intressengruppen nach ihren Interessen trainiert und angewand. Microsoft sowie der Staat haben ein Interesse daran alle Anwender voll zu überwachen: also trainieren sie die KI darauf – fertig.

      Wer will kann bis zu den obersten Gerichten Jahrzehnte klagen, bis dahin machen Microsoft und Co was sie wollen.

      Die Millitärs wollen feindliche Objekte ohne manuelle Fremdsteuerung erkennen und zerstören, also werden Drohnen zukünftig autark in schwärmen Operieren.

      All das wird in in 5-10Jahren unausweichlich da sein – weil die Interessenvertreter machen können was sie wollen und die Zeit auf ihrer Seite steht. Auch weil immer das Argument greift: sonst kommt der Chinese, und überrollt uns mit seiner KI.

  6. michael sagt:

    Meine persönlichen Gesundheitsdaten sind SO krank, ich habe gar NIX zu verbergen.

    • Fritz sagt:

      Dann wird sich Dein Vermieter schon mal nach potentiellen Nachmietern (und vorher Handwerkern für eine Luxsussanierung) umsehen.

      Dann wird Deine Bank schon mal sämtliche Kreditlimits auf nahe Null reduzieren.

      Dann wird das Finanzamt schon mal alle Informationen für die zügige Ausstellung des Erbschaftssteuerbescheides sammeln.

      SCNR 😉

  7. Frederic Freiherr von Furchensumpf sagt:

    Ich bin mir auch bewußt, daß der Kampf um Privacy ein Kampf gegen Windmühlen ist. Dennoch habe ich diesen Kampf aufgenommen. Vor längerer Zeit von Windows auf Linux umgestiegen. War ziemlich zäh und ermüdend, aber der Lernfaktor war hoch und die Befreiung vor allem vor Microsoft's Gängelung (Bing, Edge, Microsoft-Konto…) meine Belohnung.
    Diese Woche bekam ich Post von meiner Krankenkasse, dass diese sich freue, mir zum 01.01.2025 eine elektr. Patientenakte (ePA) anlegen zu dürfen. Das ist die permanente Verhohnepiepelung der denkenden Bevölkerung! Die ePA gibt es doch schon Jahrzehnte! Oder glaubt Jemand wirklich, es würde Jemand bei der KK jedes Rezept oder jede Diagnose in irgendwelche Karteikarten abmalen, damit die Leistungserbringer ihr Geld erhalten? Ich habe jedenfalls der Anlage der ePA pronto widersprochen.
    Wie gesagt, es ist ein Kampf gegen Windmühlen, aber kampflos gebe ich nicht auf.

  8. noname sagt:

    danke für die Aufbereitung dieses Themas.

    Aber, wer interessiert sich dafür? Ehrlich gesagt doch nur ein paar Nerds. Die momentane Jugend und die ganzen RTL2-Zuschauer sind doch inzwischen so in ihrer Bubble, die sind doch schon merkbefreit.

    Sollte ich jemanden auf die Füße getreten sein, sorry, aber da ist mein Eindruck, wenn man über Cybersicherheit und Co redet bzw. reden will.

    Daher, nochmals ein Danke für die Mühe, welche in diesen Blog fließt.

  9. Anonymous sagt:

    Wer das Recht auf informationelle Selbstbestimmung (https://de.wikipedia.org/wiki/Informationelle_Selbstbestimmung) einschränkt oder einschränken möchte, muss als verfassungsfeindlich angesehen werden. Verfassungsfeindliche Organisationen sollten verboten und strafrechtlich verfolgt werden.

  10. squat0001 sagt:

    Ich verstehe schon Mal gar nicht warum ReCall so viel schlimmer als die bestehende Windows Suche sein soll.

    So gut wie alles was am Bildschirm angezeigt wird, kommt aus einem File/Mail/.. ist also eh schon im im Index.

    • R.S. sagt:

      Nö.
      Wenn du z.B. eine Webseite besuchst und z.B. im Browser eingestellt hast, das beim Beenden der Cache gelöscht wird, dann stehen diese Sachen eben nicht auf der Platte, aber Recall hat sie in der Datenbank.
      Oder Passworte, die ich eingebe, stehen auch nicht auf der Platte, aber nach Eingabe in der Recall Datenbank.
      etc. etc.

      Mir fällt dazu nur ein:
      Gestern standen wir noch am Abgrund.
      Heute sind wir einen Schritt weiter.

      • Anonymous sagt:

        >"Oder Passworte, die ich eingebe, stehen auch nicht auf der Platte, aber nach Eingabe in der Recall Datenbank."
        Das wird immer wieder zitiert, aber mit ist nicht transparent, WIE das geschehen soll:
        * Wenn ich Passwörter eingebe, sehe ich immer nur Bullets, nie das Passwort im Klartext
        * Wenn ich einen Passwordsafe verwende, zeigt meiner nur Bullets, und schreibt die Passwörter selbst in die Felder (—> Bullets) oder kopiert sie ins Klemmbrett, damit ich sie einfüge (—> Bullets). Auf dem Bildschirm sehe ich aber den Klemmbrettinhalt und die Passwörter im Klartext nicht. Natürlich könnte ich mir vorstellen, das Recall auch das Clipboard liest, aber das ist dann eigentlich ein anderes Szenario als die Passworteingabe.

        Nicht falsch verstehen: Ich werde mich mit Händen und Füßen gegen Recall wehren, zu Hause mache ich das bereits erfolgreich unter Linux, an der Arbeitsstelle muss ich bangen und hoffen, dass in der IT ein klarer Kopf wirkt…

        • Günter Born sagt:

          Dein Denkfehler liegt in "Wenn ich Passwörter eingebe, sehe ich immer nur Bullets, nie das Passwort im Klartext" – Du gibst keine Bullets ein, sondern dein Passwort. Es ist für Recall ein Leichtes, die Tastatureingaben mit aufzuzeichnen – spart das OCR beim Screenshot.

          • Anonymous sagt:

            Danke! Mir fehlen offensichtlich die betreffenden MS-Managementqualitäten, mir sowas in seiner Gänze auch nur annähernd vorzustellen ;)
            Ich merke immer mehr, dass ich privat rechtzeitig und richtig abgebogen bin. Auf der anderen Seite des Zauns ist das Gras auch nicht immer grüner, aber brauner auf keinen Fall…

          • squat0091 sagt:

            Naja, Tools welche alle Tasten aufzeichnen gibt's seit Win96 als Open Source…ein OS hat nun Mal die Aufgabe Hardware zu verwalten.

  11. Kasimir sagt:

    Ich verstehe die Kritik an Adobe und an Recall, allerdings erscheint sie mir überzogen. Die Büchse der Pandora doch schon seit Jahren offen:
    – Ärzte versenden Befunde über unverschlüsselte E-Mails, SMS oder whatsapp
    – Patienten buchen Termine über whatsapp oder doctolib (https://www.deutschlandfunkkultur.de/doctolib-arzttermin-portal-datensicherheit-100.html)
    – Ärzte verwenden heute schon google translate, um sich mit ausländischen Patienten zu verständigen
    – Große und kleine Unternehmen verwalten ihre Personaldaten in der Cloud (dazu gehören Abschlusszeugnisse, Leistungs-Beurteilungen, Krank- und Kind-Krank-Tage)
    – Datentransfer an OneDrive, Office 365, Dropbox lässt sich unterbinden, aber wie viele Lehrer, Personal-Abteilungen, Ärzte haben das korrekt konfiguriert?
    – Schon seit 10 – 20 Jahren geraten geheime Informationen an die Öffentlichkeit, weil Regierungs-Mitarbeiter USB-Sticks im Zug vergessen, Word-Dokumente mit kompletter Bearbeitungs-Geschichte veröffentlichen oder pdf-Dokumente „schwärzen", indem sie schwarze Kästen in das Dokument malen, den Text darunter aber nicht löschen

    • Günter Born sagt:

      Zu deinem überzogen: Kann man so sehen, muss es aber nicht. Allen von dir aufgezeigten Punkten stimme ich zu – aber es sind immer noch isolierte Vorfälle. Was dort von Adobe (AI im PDF-Viewer) und Microsoft Recall auf OS-Ebene geplant ist, hebt das Ganze auf eine gänzlich neue, flächendeckende Einsatzebene.

      Wenn ich etwas nach nun 54 Berufsleben gelernt habe, ist die Erkenntnis, dass "Gier, Inkompetenz, Vorsatz, Fehler und Dummheit" toxische Kombinationen sind, die in der Vergangenheit zu Katastrophen geführt haben (Soweso, Bhopal, Three Mile Island, Tschernobyl, Boeing, … später Dieselskandal etc.) und immer noch führen. Einfach nach den Begriffen im Web suchen, falls nicht geläufig – alle diese Ereignisse haben mich im weitesten Sinne beruflich tangiert (da ich – nach dem Studium Physikalische Technik mit sehr viel Kerntechnik-Vorlesungen – im Flugzeugbau und später in der Großchemie gearbeitet – und Management-Entscheidungen verfolgt – habe). Die Skepsis wurde also über viele Jahre genährt.

      Als Ingenieur ist mir beigebracht worden, Systeme in Fail-safe zu denken. In den Informatikvorlesungen und in der nachfolgenden Praxis war da nichts dergleichen – man kann mit Rapid Prototyping und einem Patch ja vieles machen … Die Folgen sind allerortens zu besichtigen.

      Daher kann man nicht genug warnen – ob es gehört wird? Ich bin eher pessimistisch, möchte mir aber nicht vorwerfen lassen, es zumindest nicht versucht zu haben.

  12. Sebastian S. sagt:

    größere Einrichtungen mit eigenem Datenschützer und IT bekommen vielleicht noch Gruppenrichtlinien und Firewall-Regeln gestrickt, um möglichst wenige Daten abfließen zu lassen bzw. die AI Features zu deaktivieren, aber gerade Arztpraxen bzw. kleineren medizinische Einrichtungen dürften die Voraussetzungen fehlen…
    – Windows 11 Enterprise Lizenz (für viele Datenschutz-relevante GPOs erforderlich)
    – AD Infrastruktur um überhaupt GPOs auf Clients anwenden zu können
    – Layer 7 Firewall, zum unterbinden von AI-Call-Home-Traffic

  13. Bernie sagt:

    zu Adobe:
    Nicht nur Adobe Acrobat und Adobe Acrobat Reader sind betroffen.
    Auch weitere Produkte der Adobe Creative Cloud Suite werden sukzessive mit KI-Funktionen versehen.

    Aktuell z. B:

    Adobe Illustrator :
    "Von der Idee zur Illustration mit generativer KI."

    Adobe Photoshop:
    KI der nächsten Generation. Jetzt in Photoshop.

    Als IT-Admin, der u. a. für die Verteilung bzw. die Installation
    der Adobe Creative Cloud Suite verantwortlich ist und den Datenschutz berücksichtigen muss und ernst nimmt, bin ich seit Jahren ziemlich genervt von Adobe Produkten und ich frage mich, warum werden diese Funktionen nicht "Opt-in" angeboten?

    Ansonsten kann ich aktuell nur davon abraten Dokumente in der Adobe Cloud zu
    speichern, siehe auch:

    "Adobe analysiert unter Umständen Ihre Creative Cloud- oder Document Cloud-Inhalte, um Produktfunktionen zur Verfügung zu stellen und unsere Produkte und Dienste zu verbessern und weiterzuentwickeln.
    Creative Cloud- und Document Cloud-Inhalte umfassen ohne Anspruch auf Vollständigkeit Bild-, Audio-, Video-, Text- und Dokumentdateien sowie die zugehörigen Daten. Adobe führt eine Inhaltsanalyse nur für Inhalte durch, die auf den Servern von Adobe verarbeitet oder gespeichert werden; wir analysieren keine Inhalte, die lokal auf Ihrem Gerät verarbeitet oder gespeichert werden."

    @Adobe
    "Adobe-Hack betrifft mindestens 38 Millionen Accounts"
    https://www.heise.de/news/Adobe-Hack-betrifft-mindestens-38-Millionen-Accounts-2035847.html
    Danke, mein städtischer Account war damals auch betroffen und das ist der einzige Leak, der mir jemals untergekommen ist, Gratulation, aber Ihr habt alles im Griff?

    "Datenleck bei Adobe: 7,5 Millionen Konten betroffen"
    https://www.sicher-im-netz.de/datenleck-bei-adobe-75-millionen-konten-betroffen

    • Bernie sagt:

      Ergänzend an die NutzerInnen der Adobe Creative Cloud:
      Wer nicht möchte, dass Adobe die Inhalte auf die beschriebene Weise analysiert werden:
      "Deaktivieren Sie im Bereich Inhaltsanalyse den Umschalter Adobe erlauben, meine Inhalte zum Zweck der Produktverbesserung und -entwicklung zu analysieren."

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Hinweis: Bitte beachtet die Regeln zum Kommentieren im Blog (Erstkommentare und Verlinktes landet in der Moderation, gebe ich alle paar Stunden frei, SEO-Posts/SPAM lösche ich rigoros). Kommentare abseits des Themas bitte unter Diskussion.