Das intelligente Wachstum der künstlichen Intelligenz steuern

Ein neues Papier, das in der Zeitschrift AI Communications veröffentlicht wurde, bietet einen umfassenden Überblick über die Entwicklung eines ethischen Rahmens, eines Verhaltenskodex und wertorientierter Designmethoden für KI-Forscher und Anwendungsentwickler in Europa. Die „Barcelona-Erklärung für die ordnungsgemäße Entwicklung und Nutzung der künstlichen Intelligenz in Europa“ wurde im Frühjahr 2017 auf der B-Debate-Veranstaltung in Barcelona lanciert, um weitere Diskussionen zwischen Politikern, Branchenführern, Forschern und Anwendungsentwicklern über die Chancen und Risiken der KI im aktuellen Umfeld des „Goldrausches“ anzuregen.

Neben der Dokumentation der vollständigen Barcelona-Erklärung untersucht das Papier die Gründe dafür, konzentriert sich auf Fragen der Sicherheit, Zuverlässigkeit und Ethik und bewertet die Fortschritte bei den wichtigsten Empfehlungen. Unter der Schirmherrschaft von Biocat und l’Obra Social la Caixa, mit Unterstützung von ICREA, dem Institut de Biologia Evolutiva und dem Institut d’Investigacio en Intelligencia Artificial, versammelte B-Debate führende Experten in Europa, um Strategien zum Umgang mit Risiken und Vorteilen der KI zu diskutieren. Die Veranstaltung war einzigartig, da sich europäische Entwickler und Forscher am Diskurs beteiligten, der zuvor von US-amerikanischen und britischen Sozialwissenschaftlern, Rechtsexperten und Unternehmensberatungsfirmen dominiert worden war. Die Barcelona-Erklärung wurde von den meisten Teilnehmern unterzeichnet und ist im Internet zur Unterzeichnung und Diskussion zugänglich.

„Angesichts des großen Interesses an KI und des Eifers, Anwendungen zu entwickeln, die den Menschen in seinem täglichen Leben betreffen, ist es wichtig, dass die Forschungs- und Anwendungsentwicklungsgemeinschaft offene Diskussionen führt, um unrealistische Erwartungen, unbeabsichtigte Folgen und den Einsatz, der negative Nebenwirkungen oder menschliches Leid verursacht, zu vermeiden“, sagte Dr. Luc Steels…, ICREA Research Professor, Catalan Institution for Research and Advanced Studies (ICREA) – IBE (UPF/CSIC), Barcelona, der mit seinem Co-Investigator Ramon Lopez de Mantaras, Ph.D., Research Professor des Spanish National Research Council (CSIC) und Direktor des Instituto de Investigación en Inteligencia Artificial (IIIA) – CSIC, Bellaterra, Barcelona, die Veranstaltung in Barcelona organisierte.

Während die meisten KI-Aktivitäten in den USA und China stattfinden, deuten die jüngsten Maßnahmen der Europäischen Kommission und der nationalen Regierungen darauf hin, dass Forschung und Entwicklung in Europa zunehmen und das Wachstum, das der Diskurs um die Erklärung mitgestaltet. Eine vielversprechende Entwicklung war die jüngste Zuweisung innerhalb des europäischen H2020-Rahmenprogramms zur Schaffung eines Ökosystems und einer Plattform zur Förderung der europäischen KI-Forschung, wie in der Erklärung gefordert. Das Papier bekräftigt seinen Appell an die europäischen Geldgeber und Unternehmen, in die Entwicklung der KI in einem Umfang zu investieren, der der Herausforderung angemessen ist, und zwar so, dass alle europäischen Regionen und Bürger davon profitieren können.

Die B-Debatte, die Erklärung von Barcelona und eine schnell wachsende Literatur werfen drängende Fragen auf, die immer wieder auftauchen: Ist die KI bereit für den groß angelegten Einsatz? Die KI wird heute hauptsächlich für kommerzielle Zwecke verwendet, aber können wir die KI auch für das Gemeinwohl nutzen? Welche Bewerbungen sollten wir fördern? Wie können die negativen Auswirkungen beim Einsatz von KI angegangen werden? Was sind die jüngsten technischen Durchbrüche in der KI und wie wirken sie sich auf Anwendungen aus? Welche Rolle sollte die KI in Social Media spielen? Welche sind die besten Praktiken für die Entwicklung und den Einsatz von KI?

„Während schnelle Fortschritte bei der KI mit Spannung erwartet werden, ist eine gewisse Angst vor Fortschritten notwendig und vertretbar“, kommentierten Steels und Lopez de Mantaras. „Die allgemeine Befürchtung, dass die KI-Bereitstellung außer Kontrolle gerät, mag weit hergeholt erscheinen, aber es gibt bereits unbeabsichtigte Folgen, die dringend behoben werden müssen. So beeinflussen beispielsweise Algorithmen, die in das Web und Social Media eingebettet sind, wer mit wem spricht, wie Informationen ausgewählt und präsentiert werden und wie Fakten/Fehlschläge sich im öffentlichen Raum verbreiten und konkurrieren. Die KI sollte (und könnte) helfen, die Konsensbildung zu unterstützen, anstatt sie zu zerstören. KI-Systeme sollten sehr deutlich machen, dass sie eher künstlich als menschlich sind. Menschen zu täuschen, sollte nie ein Ziel der KI sein.“

Es werden auch Fragen zur Zuverlässigkeit und Rechenschaftspflicht von KI-Systemen untersucht, die auf einem tiefen Lernen mit regelbasiertem Verhalten basieren (z.B. finanzielle Entscheidungen, Personalmanagement oder Strafverfolgung). Eingebettete Verzerrungen können verhindern, dass qualifizierte Arbeitssuchende das Screening bestehen oder zu ungerechten Bewährungsentscheidungen führen. Autonome KI-Systeme werfen unterschiedliche Probleme auf. Müssen wir die autonomen Waffen einschränken? Wer ist verantwortlich, wenn bei einem selbstfahrenden Auto etwas schief geht?

„Die Erklärung von Barcelona hat einen Governance-Rahmen für die proaktive Integration von Best Practices als Teil des Designprozesses festgelegt. Wir glauben, dass KI eine Kraft zum Wohle der Gesellschaft sein kann, aber dass es eine ausreichende Gefahr für unangemessenen, vorzeitigen oder böswilligen Gebrauch gibt, um die Notwendigkeit zu rechtfertigen, das Bewusstsein für die Grenzen der KI zu schärfen und kollektive Maßnahmen zu ergreifen, um sicherzustellen, dass die KI tatsächlich auf sichere, zuverlässige und verantwortliche Weise für das Gemeinwohl eingesetzt wird“, erklärten Steels und Lopez de Mantaras.

Teilen Ist Liebe! ❤

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

shares