Open post Marvin @marvin@mastodon.awit.at · 2mo ago Replying to @littlealex@infosec.exchange Das war eine lange Nacht, aber sehr faszinierend. Diese Software für Immobilienmakler ist vermutlich nur der Anfang und wir werden das in anderen Bereichen der Gesellschaft sehen. Banken machen das ja schon länger, aber anders. Was mir schlagartig bewusst geworden ist, dass wir Datenschutz komplett neu denken müssen, sowohl als Gesellschaft, als auch als Einzelperson. Dazu unten mehr. Die Software ist nichts, was auf dem lokalen PC läuft, sondern bei dem Anbieter, klassische SAAS. Im Kern ist es KI-gesteuert. Der Makler stellt das Expose zu einer Wohnung zusammen, die KI hilft dabei, kann die BIlder aufhübschen usw. Sie bewertet aber auch Lage, Nachbarn soweit bekannt und den Vermieter im Sinne was für Präferenzen der hat. Die Software veröffentlicht dann die Immobilie bei den üblichen Plattformen wie Immoscout usw. SPannend wird was passiert wenn sich Interessenten melden. Anhand der Formulierungen im Anschreiben kann die Software schon erste Einschätzungen abgeben und dann werden automatisch die üblichen Sachen wie Einkommensnachweis angefordert, wenn man die erste Hürde genommen hat. Die anderen landen im Spamordner. Mit den Informationen aus dem Einkommensnachweis, Emailadresse, Anschrift usw. versucht die KI im Netz so viele Infos wie möglich zu finden. Es gibt Agenten für Twitter, Facebook, Instagram und Co., aber noch nix für's Fediverse. Natürlich werden Mieterforen gescraped und wer dort jemals was geschrieben hat, wird es schwer haben eine Wohnung zu finden. Spannend ist auch, dass gerade bei jungen Leuten (Schüler, Studenten, Lehrlinge) die Eltern bürgen und entsprechende Unteragen einreichen. Das wird genauso verarbeitet und fliesst in die Bewertung ein. Die BEwertung ist weit mehr als der wirtschaftliche Faktor, für mich wirkt es so, dass die "soziale Kompatibilität" höher bewertet wird als Einkommen. Am Ende steht ein Score. Wer die Ausschlusskriterien wie Einkommen und bestimmte Ausschlussgruppen, die der Makler setzten kann, von Haus aus wird nur geflaggt, überwunden hat, wird anhand dieses Scoers bevorzugt behandelt und die Liste wird von oben abgearbeitet. Die Ausgeschiedenen bekommen dann eine Absage im Sinne "Tut uns leid, jemand anderes war schneller" um Diskriminierungsklagen zu vermeiden. Überhaupt ist das System darauf hin optimiert so wenig juristische Angriffsfläche zu schaffen wie möglich. Was ich eingangs erwähnte, wir müssen Datenschutz komplett neu denken. Bisher war der Fokus wer speichert was und wozu. Darauf sind im Kern auch di Datenschutzgesetze ausgelegt. Kein Makler hatte bisher Zugriff auf zum Beispiel Datenbanken des Verfassungsschutzes. Zwar konnte man schon immer in den Sozialen Medien recherchieren wie eine Person so drauf ist, aber bei 1000 Bewerbern für eine Wohnung (was in Ballungszentren eine normale Zahl ist) ist das schlicht nicht praktikabel. Als Makler musst du das auf 10-20, maximal 50 eindampfen, mit denen du eine Besichtigung machst. Das hat eine gewisse Zahl an Mitarbeitern gebracht, die man sich jetzt sparen kann, gleichzeitig steigt die Qualität der Auswahl aus Sicht des Vermieters. Neben nicht gezahlten Mieten ist Streit unter den Mietern das zweitnervigste, was dir als Vermieter passiert. Angenommen man hat ein Mietshaus, im 1. Stock lebt die erzkonservative Famile mit zwei Kindern. Kinder sind nicht gerne gesehen, aber hier ist es ok, weil die benehmen sich und insgesamt ist die Familie auch pflegeleicht, vor allem aber zahlt sie pünktlich. Dann gibts noch den Playboy-Arzt im 2. Stock, der auch pflegeleicht ist und das seit vielen Jahren. Natürlich will man sich da keine querfeministische Linke eintreten, selbst wenn die ein gutes Einkommen haben sollte. Das gibt nur Stress und mit solchen Tools ist das endlich mit vertretbarem Aufwand möglich zu verhindern. Datenschutz muss, wie gesagt, umgedacht werden. Neben den Datenbanken, dem Zusammenführen von Daten usw. muss es auch einen Umgang mit ad-hoc-Analysen auf Basis öffentlicher Daten geben. Ich gehe davon aus, dass dieses Tool die Sachen irgendwo ganz weit hinten und unten in seinem System ablegen wird, aber das sieht man nicht in der Gui für den User. Selbst wenn es das nicht tut, dann finde ich das alles schon sehr bedenklich. So lange man schnell und einfach Informationen auswerten kann, ist es egal wo sie liegen, ob sie für sich genommen nicht schutzwürdig sind usw. Das Ergebnis zählt. Ich sehe hier vor allem die gesamtgesellschaftlichen Folgen. Wenn es zum Risiko wird in einem Mieterforum eine Anfrage zu stellen, obwohl es rechtlich und auch moralisch legitim ist, dann läuft was falsch. Oder der Like einer Regenbogenflagge auf Instagramm... Klar gibt es grundsätzlich sowas wie Vertragsfreiheit auf der anderen Seite, aber ein Scoring wie wahrscheinlich es ist mit einem Troublemaker zu tun zu haben, ist selbst bei der Annahme, dass solche Systeme fehlerfrei funktionieren, bedenklich. Es wird viele über das Chinesischen Social Scoring gesprochen, aber kaum über die ganzen kleinen Scoringsysteme, die links und rechts überall aufploppen. #datenschutz #meinungsfreiheit @littlealex@infosec.exchange Palantir & Co lassen grüßen, und das sind erst die Anfänge.
