Ramak Molavi ist Rechtsanwältin spezialisiert auf IT-Recht, Legal Tech und Robotics, Speakerin und Mitglied der AI Alliance der EU-Kommission. Im Interview sprach sie mit mir über die neuen Ethikrichtlinien der EU für vertrauenswürdige KI, die juristische Ausbildung und ihre Karriere.
Jolanda: Wie würdest du deine Tätigkeit in zwei Sätzen beschreiben?
Ramak: Ich bin Rechtsanwältin für digitale Rechte und IT-Recht. Ich berate, publiziere und halte Fachvorträge und Vorlesungen zu Innovation und Recht und engagiere mich netzpolitisch. Meine Tätigkeiten kann man gut auf the-law-technologist.com verfolgen.
Jolanda: Wie kamst du zum IT-Recht und Legal Tech?
Ramak: Recht und Technologie sind Gestaltungsinstrumente unserer Gesellschaft und haben mich schon immer fasziniert. Legal Tech sollte eigentlich alle Juristen interessieren, schließlich geht es dabei um die Transformation unserer alltäglichen Arbeit. Der aus meiner Sicht relevanteste Bereich im Legal Tech ist “Access to Justice”. Die Mehrheit der Bürger macht ihre individuellen Rechte nicht geltend. Durch den richtigen und maßvollen Einsatz von Technologien, kann man die Hürden abbauen und Verbesserungen erreichen.
Jolanda: Ich bekomme immer wieder zu hören, dass Legal Tech nur ein Hype sei. Wie stehst du zu dieser Aussage?
Ramak: Rechtsinformatik ist nicht neu und wird uns auch weiterhin begleiten. Alle Bereiche werden zunehmend automatisiert und vernetzt und hierzu gehört auch das Rechtswesen in unterschiedlichster Ausprägung. Es geht jetzt darum herauszufinden, wo wir diese Technik am sinnvollsten einsetzen und wie wir sie nutzen. Es geht aber gleichzeitig darum Bereiche davon auszunehmen. Die Legal Tech Szene ist leider von Vorurteilen gegenüber Juristen und einem stark verkürzten, funktionalistischen Blick auf die Arbeit von Rechtsanwälten und Richtern und Juristischer Arbeit insgesamt geprägt. Der Anwaltsberuf ist nicht die Summe seiner automatisierbaren Dienstleistungsbestandteile, sondern hat eine wichtige Funktion in der Demokratie.
Jolanda: Welche technische Entwicklung wird deiner Meinung nach den größten Einfluss auf die juristische Arbeit der Zukunft haben?
Ramak: Der Entwicklung und die fortschreitende Anwendung von algorithmischen Entscheidungssystemen. Die zunehmende Automatisierung von Dienstleistungen.
Jolanda: Hältst du die teilweise in der breiten Gesellschaft bestehende Angst vor KI-gesteuerten Systemen für berechtigt?
Ramak: Ich beobachte vor allem dort, wo das Wissen über KI fehlt beides: übertriebene Euphorie und übertriebene Sorge. Ich versuche das Wort KI zu meiden, da es die Technologie, die wir jedenfalls im Jahr 2019 damit meinen, mystifiziert. Von einer generellen KI sind wir weit entfernt. Es geht um algorithmische Prognosen und Entscheidungsfindung. Wir sind es, die es in der Hand haben, ob die Entwicklung uns hilft oder schadet. Wir entwickeln die Systeme, wir nutzen und hegen sie ein. Die Entwicklung braucht allergrößte Aufmerksamkeit und wir müssen die Technologie in ihrer Wirkungsweise verstehen um sie aktiv mitgestalten und die bereits geltenden Regeln einbetten zu können.
Jolanda: Welcher Regulierung sollten IT-Konzerne und KI-gesteuerte Produkte unterliegen?
Ramak: Die großen digitalen Plattformen – die allesamt auch bei der KI Entwicklung führend forschen und investieren- haben eine ungesunde Marktmacht erlangt. Das Kartellrecht hat leider nicht rechtzeitig gegriffen. Rechtsdurchsetzung bei Monopolen ist aus der Natur der Sache kaum möglich. Es gilt eine Zustand wieder herzustellen, in der Regulierung wieder möglich wird. Gesetze, die auch auf KI anwendbar sind, gibt es zahlreich. Die Rechtsdurchsetzung ist eher das große Problem.
Jolanda: Was hältst du von den dazu aktuell veröffentlichen Ethikrichtlinien der EU Kommission?
Ramak: Die Ethical Guidelines for Trustworthy AI sind sicher ein guter Start für die Diskussion in Europa. Sie sind aber nicht rechtsverbindlich und auch eher als work in progress zu sehen. Viele wichtige Punkte wie die Notwendigkeit der Kontrollierbarkeit von KI und der Sicherstellung von Verantwortlichkeiten sind darin erwähnt. Als Mitglied der AI Alliance habe ich die Entstehung marginal mitbegleitet. Ich habe dabei mitbekommen, dass nicht verhandelbare rote Linien zunächst beauftragt, dann aber zuletzt doch gestrichen wurden. Als rote Linien waren unter anderem der Einsatz von tödlichen autonomen Waffensystemen formuliert sowie die KI-gestützte Bewertung von Bürgern durch den Staat (Social Scoring). Nicht einmal auf diese rote Linien konnte sich die High Level Group einigen. Daraus wurden “bedenkliche Bereiche”. Nachdem seit 2017 immer mehr Ethikrichtlinien formuliert wurden und fast alle den gleichen Kern haben, müssen wir nun den nächsten Schritt gehen und gemeinsam überlegen wie wir diese umsetzen. Es ist wichtig zu betonen, dass Ethikrichtlinien kein Ersatz für Regulierung sind.
Jolanda: Welche Vorteile bringt dir die klassisch juristische Ausbildung für deine tägliche Arbeit?
Ramak: Vor allem durchzuhalten und nicht aufzugeben, auch wenn es schwierig wird! Die juristische Ausbildung lehrt uns inhaltlich neue Bereiche zu erschließen und uns einzuarbeiten, schärft den Blick für das Wesentliche. Das kann man in einer komplexer werdenden Umgebung sehr gut gebrauchen: aus einem Wust an Informationen, das Relevante herauszufischen. Juristerei bedeutet für mich im Kern auch die Abwägung von Interessen. Genau das richtige Werkzeug also, um zu fairen Lösungen zu kommen. Die Ausbildung fördert das analytisches Denken und zeigt uns eine Art von systematisierten Empathie im Sinne von Ableitung bzw. Verständnis für andere Standpunkte und Interessen.
Jolanda: Muss sich die juristische Ausbildung deiner Meinung nach ändern, um die neue Generation der Juristen auf die Berufe der Zukunft vorzubereiten?
Ramak: Die Ausbildung muss sich natürlich immer weiterentwickeln. Was sie aber nicht werden sollte ist eine Art Vorbereitungscenter für den Job. Im Gegenteil, im Studium kann man seinen Horizont erweitern, sich in Überlegungen vertiefen, allgemein Lernen und erforschen. Das was man im Job braucht, lernt man beim Job viel mehr als man denkt. Bei der Ausbildung sollte man aus meiner Sicht Wert auf motiviertes Personal legen, das gut im Lehren (nicht nur im Forschen ist) ist und eine Leidenschaft für Rechtswissenschaft hegt und diese gut weitergeben kann.
Jolanda: Was würdest du Studierenden raten, die in im IT-Recht und Legal-Tech-Bereich arbeiten möchten?
Ramak: Ratschläge sind schwierig, da Jede und Jeder eine eigene Persönlichkeit, Talente und Vorstellungen hat. Wenn es die Lebensumstände zulassen, kann man darauf achten, nicht Geschäftsmodelle mit seiner täglichen Arbeit zu ermöglichen und zu unterstützen, die dem Gemeinwohl schaden. Etwa bei der Entwicklung von Überwachungstechnologie oder der Unterstützung bei Steuervermeidung im großen Stil bei den Big Four. Wer sich für Legal Tech interessiert, sollte sich mit Design Thinking befassen und vielleicht auch coden lernen um mehr Gestaltungsspielraum zu haben. Je mehr angrenzende Skills man erlernen kann, desto besser.
Jolanda: Du hast in der IT, insbesondere Gaming-Industrie Karriere gemacht. Hast du auf dem Weg dahin besondere Erfahrungen als Frau gemacht?
Ramak: Mir hat es immer Spaß gemacht in einem interdisziplinären, diversen und internationalen Team zusammenzuarbeiten. Mit einem gewissen Nerdtum, Humor und Anpassungsfähigkeit kommt man in der Gamesbranche sehr gut klar. Und für die Karriere ist es wichtig, dass man Gelegenheiten erkennt und sie ergreift.
Jolanda: Was würdest du anderen Frauen empfehlen, die gerade ihren beruflichen Weg beginnen?
Ramak: Sich nicht zu sehr auf das Genderthema zu fixieren und sich als natürlichen Teil einer Gemeinschaft zu sehen, mit einer eigenen Art zu sein und an Dinge heranzugehen. Möglichst offen und interessiert bleiben, viel lernen und das eigene Wissen und die eigene Sichtweise mit anderen teilen. Mutig sein, Fehler machen.
Jolanda: Vielen Dank für das Interview.