Ein neuer Bericht der New York Times unterzieht die abonnementbasierte Gesichtssuchmaschine PimEyes einem Testlauf und kommt zu besorgniserregenden Ergebnissen hinsichtlich der Privatsphäre. Ein Test, der an einer Reihe von Reportern der Zeitung durchgeführt wurde, brachte eine überraschend genaue Sammlung von Ergebnissen zutage, darunter jahrzehntealte Bilder, Bilder, auf denen das Gesicht des Porträtierten verdeckt war, und sogar Bilder, auf denen sich das Porträtierte inmitten einer verschwommenen Menschenmenge befand.
PimEyes behauptet zwar, neutral zu sein und lediglich ein „Tool-Anbieter“ zu sein, doch das Geschäftsmodell des Unternehmens wirft Fragen auf. Es bietet „Premium-Abonnements“ an, die zwischen 90 und 300 Dollar pro Monat kosten. Damit kann man beantragen, dass bestimmte Fotos aus den Suchergebnissen ausgeschlossen werden, die allen anderen Nutzern der Plattform zur Verfügung stehen.
„Gruselige“ Gesichtssuchmaschine bringt sofort fotografische Geschichten ans Licht
Gesichtssuchmaschinen, die das Internet durchforsten, sind kein neues Konzept, aber diese scheinbare Genauigkeit (unterstützt durch einen fortschrittlichen KI-Algorithmus) wurde der breiten Öffentlichkeit bisher nicht zugänglich gemacht. Der offensichtliche Vergleich zu PimEyes ist das vielbeachtete (und viel geschmähte) Unternehmen Clearview AI, aber dieses Unternehmen beschränkt seinen Zugang zumindest auf Strafverfolgungsbehörden. Die einzige Barriere für den Zugang zu PimEyes ist eine Abonnementgebühr von 29,99 $ pro Monat.
NYT-Reporter testeten die Gesichtssuchmaschine an sich selbst und stießen im Internet auf Bilder, die bis zu 10 Jahre alt waren, darunter auch solche, auf denen das Gesicht teilweise verdeckt war. Masken, Sonnenbrillen und sogar das teilweise Abwenden von der Kamera scheinen keine zuverlässige Methode zu sein, um sich vor PimEyes zu verstecken. Auf anderen Fotos wurden Einzelpersonen aus Menschengruppen bei Konzerten, in Flughäfen und bei Hochzeiten herausgepickt.
Eine der wenigen großen Einschränkungen, die die Gesichtssuchmaschine diesen Ergebnissen auferlegt, besteht darin, dass sie keine Fotos von Social-Media-Sites wie Facebook und Instagram zurückgibt, möglicherweise aufgrund derselben Art von Problemen, die Clearview AI beim Scraping von Benutzerprofilen beim Verstoß gegen verschiedene Nutzungsbedingungen hatte. Die Suchmaschine durchsucht jedoch pornografische Sites, und die Reporter stellten fest, dass sie auch dort manchmal falsche Ergebnisse liefert.
Eine Frau, die darunter litt, dass PimEyes ihre alten, expliziten Fotos fand, sprach öffentlich mit CNN darüber, welchen Schaden die Gesichtssuchmaschine anrichten kann. Cher Scarlett, eine Software-Ingenieurin, hatte 2005 unter einem anderen Namen ein explizites Fotoshooting gemacht, von dem sie dachte, es sei begraben und vergessen. PimEyes ordnete ihr die alten Fotos jedoch von einer der (anscheinend zahlreichen) von ihm durchsuchten Pornoseiten zu. Sie hatte zuvor nicht geglaubt, dass die Bilder noch auf irgendwelchen Websites angezeigt würden.
Stellen Sie sich der Regulierung durch die Suchmaschinengerichte
PimEyes-Inhaber Giorgi Gobronidze bewirbt die Gesichtssuchmaschine als „Werkzeug für das Gute“, das Menschen dabei helfen soll, nach ihren eigenen Bildern zu suchen, um ihren Ruf zu schützen. Die Servicebedingungen der Website verlangen, dass Benutzer nur nach sich selbst oder nach Parteien suchen, die ihre Zustimmung gegeben haben, aber dies wird in keiner Weise überprüft oder durchgesetzt. PimEyes entfernt auf Benutzeranfrage bestimmte Bilder aus seinen Ergebnissen, aber zunächst scheint es, als würde die Website den Benutzer zu einem „PROtect-Plan“ (der zwischen 89,99 und 299,99 US-Dollar kostet) pro Monat zwingen, um diese Funktion freizuschalten. Ein kostenloses Antragsformular zur Bildentfernung https://pimeyes.com/en/submit-delete-request ist verfügbar, wird aber nicht auf der Haupt-Landingpage beworben und muss in der Datenschutzrichtlinie nachgelesen werden, um es zu finden. Es gibt auch ein Opt-out-Antragsformular , das kostenlos ist, aber vom Benutzer verlangt, ein Bild von sich bereitzustellen, eine Praxis, mit der Clearview AI ebenfalls einige Probleme hatte. Scarlett berichtete in einem Medium-Post vom April, dass die Opt-out-Anfrage bei ihr nicht funktioniert habe und eine anschließende Suche der NYT ergab, dass die expliziten Fotos immer noch da waren Namecheap Email.
Gobronidze sagt, dass die Gesichtssuchmaschine missbräuchliche Benutzer blockiert, etwa solche, die eine „übermäßige“ Anzahl von Suchvorgängen durchführen (er nannte 1.000 Suchvorgänge pro Tag als Beispiel). Er sagte auch, dass die Website aufgrund der Invasion der Ukraine keine Kunden aus Russland annimmt. Allerdings steht die Website bereits unter rechtlicher Beobachtung, da die deutsche Datenschutzbehörde vor einem Jahr eine Untersuchung wegen möglicher Verstöße gegen die Datenschutz-Grundverordnung eingeleitet hat (PimEyes ging erstmals 2017 online).
Die umstrittene Gesichtssuchmaschine wird sich wahrscheinlich als schwierig zu regulieren erweisen, da sie ihren Hauptsitz in Gobronidzes Heimatland Georgien hat und als Zweigstelle eines in Dubai registrierten Unternehmens strukturiert ist. Obwohl es in naher Zukunft kaum rechtliche Mechanismen geben dürfte, um das Unternehmen zum Handeln zu zwingen, glaubt John Gunn (CEO von Token ), dass das Unternehmen eine Art Identifikationssystem für Kunden und bessere Screening-Prozesse einführen muss, da es sonst möglicherweise von einem Land nach dem anderen verboten wird (wie es Clearview AI erging): „Es ist völlig unredlich von PIM Eyes, zu behaupten, sie täten ihr Bestes, um die Suche auf die Person zu beschränken, die die Suche anfordert. Sie könnten von den Benutzern einfach verlangen, ihren Führerschein, Reisepass oder einen anderen Lichtbildausweis vorzulegen, dies bei einem Anbieter digitaler Identitätssicherung wie Mitek oder Jumio zu verifizieren und dann ihre eigene Technologie verwenden, um die Suche einzuschränken. Wenn Banken Tausende von Dollar nur für einen Lichtbildausweis verleihen können, kann PIM Eyes diese kostengünstige Technologie problemlos ebenfalls übernehmen. Ihr derzeitiger Ansatz schreit geradezu nach staatlicher Intervention und Regulierung.“