Außer Kontrolle?

„Zuckerberg geht es um Daten, Macht, Geld und Kontrolle“

Frank Schätzing plädiert für einen Wandel hin zu sozialen Werten

Frank Schätzing: Der Autor glaubt an die Gefahren, welche die Künstliche Intelligenz mit sich bringen könnte  (Foto: PR)

Inhi Cho Suh, General Managerin bei IBM, oder auch Mark Zuckerberg sowie Wladmir Putin sehen mehr Chance als Risiko im Bereich der KI. Wie realistisch schätzen Sie ein Szenario ein, in dem die Technologie dem Menschen zur Gefahr wird?

Schätzing: Realistisch. Es muss nicht immer gleich das Untergangsszenario sein. Aber der Moment des Innehaltens, der Risiko-Abwägung, fehlt mir in der Welt des Silicon Valleys. So sehr ich es begrüße, dass dort nicht wie anderswo – auch hierzulande – Bedenkenträger jede kühne Neuerung verhindern, so sehr stört mich der Mangel an Reflektion. Zudem muss man sehen, wer KI aus welcher Interessenlage heraus beurteilt. Auf Zuckerbergs edle Absichten würde ich nicht setzen. Dem glaube ich per se erst einmal gar nichts. Ihm geht es um Daten, Macht, Geld und Kontrolle. Putin? Na ja. Vordenker wie Larry Page, Elon Musk und Jaron Lanier hingegen weisen sich zunehmend als Mahner aus und fordern mehr Zeit zum Innehalten, um heute keine irreparablen Fehler zu machen.

Wirtschaftsgrößen wie Elon Musk, Bill Gates oder zu Lebzeiten auch Stephen Hawking warnen vor den unabsehbaren Folgen und Gefahren von KI. Ein Leben ohne den Einsatz von KI scheint jedoch heute angesichts der zahlreich eingesetzten Algorithmen kaum noch denkbar. Eine Zwickmühle. Wo müssen die Grenzen verlaufen, innerhalb der sich die KI bewegen darf? 

Schätzing: Aus dem Hier und Jetzt heraus ist es wahnsinnig schwer, überhaupt eine Grenze zu ziehen. Denn wer zöge sie? Unsere Vorstellungskraft. Und die ist dann doch sehr überschaubar. Das stürzt uns in ein Dilemma: Grenzen wir die KI mit unseren bornierten Vorstellungen zu sehr ein, kann sie nicht liefern, was wir uns von ihr erhoffen. Dann wäre sie wie ein Astronaut, der für uns zu den Sternen fliegen soll, und den wir aus lauter Angst, er könne abheben, anseilen. Das Problem ist, wir können zwar wollen, dass die KI uns hilft, aber wir können nicht wollen, was wir wollen – wer hätte im Mittelalter das Internet wollen können? Lassen wir der KI also völlig freie Hand? Einem sich selbst rasant verbessernden System, das wir schon bald nicht mehr verstehen werden? Dann laufen wir Gefahr, dass sie irgendwann gegen unsere Interessen zu handeln beginnt. Unsere Weitsicht reicht schlicht nicht aus, ihr ultimative Grenzen zu stecken. Vielmehr müssen wir immer aufs Neue die Weichen stellen, um der KI den größtmöglichen Freiheitsgrad zu gewährleisten, ohne dass sie ethische Regularien umgeht. 

Eine Maschine kennt – Stand jetzt – keine Ethikvorstellungen. Wird Sie diese erlernen können?

Schätzing: Algorithmen sind ein bisschen wie Gene. Unsere Wertvorstellungen, unsere Gefühle, unser Empfinden für Menschenwürde, all dies ist nicht genetisch hinterlegt, sondern gründet auf kulturell getroffenen Vereinbarungen, und ebenso wenig lässt es sich in Algorithmen ausdrücken, die nichts weiter sind als mathematische Handlungsanweisungen. Eine Maschine verspürt kein Glück, keine Trauer, kein Bedürfnis nach Würde, sie hat ja nicht mal ein Empfinden ihrer eigenen Existenz. Dennoch kann sie durch permanente Beobachtung der realen Welt autonom lernen, was Ethik und Gefühle für uns bedeuten. Dafür braucht sie Zugriff auf die Gesamtheit aller verfügbaren Daten. Wir als Menschen müssen sicherstellen, dass sie, was da erlernt, nicht missversteht.

Will heißen: Je besser die Menschen sich also an Wertevorstellungen festhalten und sozialen Frieden anstreben, desto weniger haben sie von einer Künstlichen Intelligenz zu befürchten?

Schätzing: Je gefestigter ihre Vorstellungen davon werden, wie die perfekte Welt auszusehen hat – auf der Basis unserer Eingaben –, desto deutlicher wird die Maschine erkennen, dass eine Größe in der Gleichung nie perfekt sein wird: wir Menschen. So wie Kinder irgendwann rausfinden, dass Eltern fortgesetzt gegen die von ihnen selbst gepredigten Grundsätze verstoßen. Wir sollten der Maschine also vorleben, was wir von ihr verlangen, nämlich ethisches Verhalten, und zugleich im eigenen Interesse vermeiden, dass sie nach Perfektion zu streben beginnt. Das Streben nach Perfektion endet mit unserer Abschaffung.

Teil 1: „Schon jetzt sind manche KIs die besseren Naturwissenschaftler und Analysten“

Teil 2: „Zuckerberg geht es um Daten, Macht, Geld und Kontrolle“

Teil 3: „Eine Super-KI kann enormen Wohlstand schaffen, von dem die gesamte Menschheit profitiert“

Das interessiert andere Leser

  • Firmenmakler Pro und Kontra

    Der Verkauf der eigenen Firma ist einer der sensibelsten und komplexesten Geschäftsprozesse, die es gibt. Die Auswahl eines seriösen Beraters kann dem Verkäufer Zeit, Geld und Ärger ersparen.

  • Standortanalyse für Franchisebetriebe
    Standortanalyse für Franchisebetriebe

    Es liegt in der Verantwortung des Franchisenehmers, sich über die Chancen und Risiken eines in die engere Wahl gezogenen Standortes eingehend zu informieren und sie zu bewerten.

  • Frauen im Franchise
    Mehr Möglichkeiten für Frauen im Franchise

    Eine Umfrage des Deutschen Franchise-Verbands zeigt: Unter den Führungskräften in den Systemen gibt es relativ wenige Frauen. Das dürfte sich in den nächsten Jahren aber ändern.

  • Wie intelligent ist mein Unternehmen?

    Gratis: DUB startet Deutschlands größte Unternehmer-Umfrage – zusammen mit KPMG und den Hochschulen in Paderborn und Regensburg. Am Schnelltest teilnehmen und sofort Auswertung erhalten!

  • Town und Country Haus
    Town & Country im Interview

    Town and Country Franchise Leiter Benjamin Dawo erläutert den Erfolg des Geschäftsmodells und spricht über Franchise-Partner, Neugründung und Nachfolge beim Bau Franchise.

  • Gelungene Firmenübernahme

    Praxis-Beispiel: Nach dreieinhalb Jahren geduldiger Suche konnte Loes Fröhlich sein Maschinenbau-Unternehmen erfolgreich an einen Nachfolger übergeben. Was waren die Erfolgsfaktoren?

  • Unternehmerische Kompetenz

    Reine Bauchentscheidungen sollten bei der Unternehmensnachfolge vermieden werden. Hier ist unternehmerische Kompetenz gefragt, die sich in vier Ebenen gliedern lässt.

  • Neue TV-Show - Unternehmen sucht Nachfolger

    Gemeinsam mit Pro TV Produktion sucht DUB Unternehmenskäufer für mehrere Betriebe in NRW. Die Sendung wird im Herbst ausgestrahlt. Jetzt bewerben!

  • Die Regeln des Spiels

    Die Franchise-Branche hat ihre ganz eigenen Gesetzmäßigkeiten. Tom Portesy, CEO des Franchise-Expo-Veranstalters MFV Expositions, erklärt, was in der Branche zählt.

  • Titelthema: Die Tech Trends 2018

    Künstliche Intelligenz, Robotik, E-Mobilität und Co. dominieren die Zukunft. Was die technologische Umwälzung bringt und wie Elon Musk und Co. Trends setzen.

  • Autoreninterview: Außer Kontrolle?

    Frank Schätzing über die Folgen der Künstlichen Intelligenz für Mensch und Gesellschaft. Der Romanautor tritt für ein neues menschliches Selbstbild ein.

  • Haustüren Franchise Expandiert in Deutschland
    Haustüren Franchise auf Expansionskurs

    Pirnar sucht engagierte Verkaufstalente als Franchisenehmer für seine neuen Standorte in Deutschland. Der Produzent ist am 27.-29. September 2018 auf der Franchise-Expo in Frankfurt anzutreffen.

  • Motivation zur Selbstständigkeit
    Gründen 2018 - neue Studie zur Motivation

    Unterscheidet sich der Gründungswunsch nach Altersgruppe? Und was sind die wichtigsten Motivationen und Hindernisse auf dem Weg zur Selbstständigkeit. Hier erfahren Sie mehr.

  • Franchise im Handwerk

    Die Rahmenbedingungen für Franchise im Handwerk sind gut. Durch Gesetzesänderungen sind viele Franchisesysteme im Handwerk auch für Berufs- oder Quereinsteiger offen.

  • Verkaufsmotiv beim Firmenverkauf

    Die objektive Beurteilung Ihres Verkaufsmotivs ist spielentscheidend für den Verkauf Ihrer Firma.

  • Elon Musk
    Zwischen Genie und Wahnsinn

    Hyperloop und Marsmissionen revolutionieren Mobilität. Eines muss man ihm lassen: Elon Musk hat visionäre Ideen – und den Mut, sie zu verwirklichen.

  • Sommer im Glas

    Die Vielfalt bei Weinen scheint unermesslich. Und die Qualität steigt stetig. Das DUB UNTERNEHMER-Magazin befragte ausgewählte Weinhändler nach ihrem Geheimtipp für die warme Jahreszeit.

  • Nachfolgeberatung für Familienunternehmen und KMUs
    Berater gesucht - gefunden

    Eine gute Nachfolgeberatung kann bei Unternehmensverkäufen helfen. Wie aber finden Unternehmen den richtigen Fachmann?

  • Immer weniger Nachfolger in Sicht

    Die deutsche Wirtschaft brummt, die Grundlage für Gründerwachstum ist gelegt. Tatsächlich sinkt die Zahl der Gründer, damit sind auch weniger potentielle Unternehmensnachfolger auf dem Markt.

  • Franchise boomt in Deutschland

    Die Firmen haben 2017 ein Umsatzplus von acht Prozent gegenüber 2016 erwirtschaftet. Nun präsentiert sich der Wirtschaftszweig auf einer großen Messe in Frankfurt am Main - mit mind. 125 Marken.

  • Revolution in der Storage-Branche

    JAMES-Box will die Storage-Branche revolutionieren. Geschäftsführer Marcus Rey plant nach einem gelungenen Start die Expansion und sucht dafür Investoren.

  • Daimler kooperiert mit Taxify
    Daimler kauft sich bei Uber-Konkurrent ein

    Der Stuttgarter Automobilkonzern Daimler beteiligt sich nach exklusiven Informationen des DUB UNTERNEHMER-Magazins an dem estnischen Mobilitätsanbieter Taxify.

  • Industrie 4.0
    Spezial Industrie 4.0: Schrittmacher der Industrie

    Voll automatisierte Fertigung, Cobots, Digitale Zwillinge –Experten von Kuka, Linde und KPMG erklären die Metamorphose der Industrie im Interview.

  • Auf und davon

    Eine neue Generation von Selbstständigen erobert die digitale Geschäftswelt. Sie sind gut ausgebildet, kreativ – und reisen um die Welt. Warum immer mehr digitale Nomaden unterwegs sind.

  • Land der Handwerker?

    Das deutsche Handwerk steuert in die Krise: Ein Fünftel aller Handwerksunternehmer muss in den nächsten Jahren einen passenden Nachfolger finden. Wie das Kunststück gelingen kann.

  • Pension ohne Murren und Knurren

    Unternehmensverkauf mit Pensionszusage für den scheidenden Inhaber – bislang ein Hindernis für viele Nachfolger. Ein neues Urteil macht es beiden Parteien nun leichter.

  • Progression versus Tradition

    Unternehmerische Freiheit oder lieber finanzielle Sicherheit? Gute Preiskonditionen oder Erfolgsgarantie? Was Franchise-Pioniere und -Traditionalisten voneinander unterscheidet.

  • Innovative Behandlungsmethoden
    Zukunftsmedizin

    Die privaten Krankenversicherungen sehen sich selbst als Motor für Innovationen – und unterstreichen damit ihre Position im Gesundheitssystem. Was ist dran an dieser Vorreiterrolle?

  • Ebikes, Pedelec und Lastenrad liegen im Trend
    Auf die Räder, fertig, los!

    Fahrrad statt Dienstwagen. Das ist nicht nur gut für die Fitness, sondern schont auch die Umwelt. Zusätzliches Plus: Betrieb und Mitarbeiter sparen dabei Geld.

  • Roland Berger Interview
    Exklusiv: „Übernehmt Verantwortung“

    Audienz bei einer Eminenz. Warum Überzeugungen gerade für Unternehmer entscheidend sind und wie Menschlichkeit zum Erfolgsfaktor wird – Beraterlegende Roland Berger im Tacheles-Talk.

DUB-Unternehmensbörse

Bei der Deutschen Unternehmerbörse können Sie Verkaufsangebote und Kaufgesuche inserieren.
Jetzt nach Verkaufsangeboten für Unternehmen suchen!
Suchen
Jetzt Newsletter bestellen
DUB-Themennewsletter
monatlich & gratis
Was Unternehmer wissen müssen
DUB-Börsennewsletter
wöchentlich & gratis
Die neusten Angebote und Gesuche auf einen Blick
Das interessiert andere Leser
  • Firmenmakler Pro und Kontra

    Der Verkauf der eigenen Firma ist einer der sensibelsten und komplexesten Geschäftsprozesse, die es gibt. Die Auswahl eines seriösen Beraters kann dem Verkäufer Zeit, Geld und Ärger ersparen.

  • Standortanalyse für Franchisebetriebe
    Standortanalyse für Franchisebetriebe

    Es liegt in der Verantwortung des Franchisenehmers, sich über die Chancen und Risiken eines in die engere Wahl gezogenen Standortes eingehend zu informieren und sie zu bewerten.

  • Frauen im Franchise
    Mehr Möglichkeiten für Frauen im Franchise

    Eine Umfrage des Deutschen Franchise-Verbands zeigt: Unter den Führungskräften in den Systemen gibt es relativ wenige Frauen. Das dürfte sich in den nächsten Jahren aber ändern.

  • Wie intelligent ist mein Unternehmen?

    Gratis: DUB startet Deutschlands größte Unternehmer-Umfrage – zusammen mit KPMG und den Hochschulen in Paderborn und Regensburg. Am Schnelltest teilnehmen und sofort Auswertung erhalten!

  • Town und Country Haus
    Town & Country im Interview

    Town and Country Franchise Leiter Benjamin Dawo erläutert den Erfolg des Geschäftsmodells und spricht über Franchise-Partner, Neugründung und Nachfolge beim Bau Franchise.

  • Gelungene Firmenübernahme

    Praxis-Beispiel: Nach dreieinhalb Jahren geduldiger Suche konnte Loes Fröhlich sein Maschinenbau-Unternehmen erfolgreich an einen Nachfolger übergeben. Was waren die Erfolgsfaktoren?

  • Unternehmerische Kompetenz

    Reine Bauchentscheidungen sollten bei der Unternehmensnachfolge vermieden werden. Hier ist unternehmerische Kompetenz gefragt, die sich in vier Ebenen gliedern lässt.

  • Neue TV-Show - Unternehmen sucht Nachfolger

    Gemeinsam mit Pro TV Produktion sucht DUB Unternehmenskäufer für mehrere Betriebe in NRW. Die Sendung wird im Herbst ausgestrahlt. Jetzt bewerben!

  • Die Regeln des Spiels

    Die Franchise-Branche hat ihre ganz eigenen Gesetzmäßigkeiten. Tom Portesy, CEO des Franchise-Expo-Veranstalters MFV Expositions, erklärt, was in der Branche zählt.

  • Titelthema: Die Tech Trends 2018

    Künstliche Intelligenz, Robotik, E-Mobilität und Co. dominieren die Zukunft. Was die technologische Umwälzung bringt und wie Elon Musk und Co. Trends setzen.

  • Autoreninterview: Außer Kontrolle?

    Frank Schätzing über die Folgen der Künstlichen Intelligenz für Mensch und Gesellschaft. Der Romanautor tritt für ein neues menschliches Selbstbild ein.

  • Haustüren Franchise Expandiert in Deutschland
    Haustüren Franchise auf Expansionskurs

    Pirnar sucht engagierte Verkaufstalente als Franchisenehmer für seine neuen Standorte in Deutschland. Der Produzent ist am 27.-29. September 2018 auf der Franchise-Expo in Frankfurt anzutreffen.