Außer Kontrolle?

„Zuckerberg geht es um Daten, Macht, Geld und Kontrolle“

Frank Schätzing plädiert für einen Wandel hin zu sozialen Werten

Frank Schätzing: Der Autor glaubt an die Gefahren, welche die Künstliche Intelligenz mit sich bringen könnte  (Foto: PR)

Inhi Cho Suh, General Managerin bei IBM, oder auch Mark Zuckerberg sowie Wladmir Putin sehen mehr Chance als Risiko im Bereich der KI. Wie realistisch schätzen Sie ein Szenario ein, in dem die Technologie dem Menschen zur Gefahr wird?

Schätzing: Realistisch. Es muss nicht immer gleich das Untergangsszenario sein. Aber der Moment des Innehaltens, der Risiko-Abwägung, fehlt mir in der Welt des Silicon Valleys. So sehr ich es begrüße, dass dort nicht wie anderswo – auch hierzulande – Bedenkenträger jede kühne Neuerung verhindern, so sehr stört mich der Mangel an Reflektion. Zudem muss man sehen, wer KI aus welcher Interessenlage heraus beurteilt. Auf Zuckerbergs edle Absichten würde ich nicht setzen. Dem glaube ich per se erst einmal gar nichts. Ihm geht es um Daten, Macht, Geld und Kontrolle. Putin? Na ja. Vordenker wie Larry Page, Elon Musk und Jaron Lanier hingegen weisen sich zunehmend als Mahner aus und fordern mehr Zeit zum Innehalten, um heute keine irreparablen Fehler zu machen.

Wirtschaftsgrößen wie Elon Musk, Bill Gates oder zu Lebzeiten auch Stephen Hawking warnen vor den unabsehbaren Folgen und Gefahren von KI. Ein Leben ohne den Einsatz von KI scheint jedoch heute angesichts der zahlreich eingesetzten Algorithmen kaum noch denkbar. Eine Zwickmühle. Wo müssen die Grenzen verlaufen, innerhalb der sich die KI bewegen darf? 

Schätzing: Aus dem Hier und Jetzt heraus ist es wahnsinnig schwer, überhaupt eine Grenze zu ziehen. Denn wer zöge sie? Unsere Vorstellungskraft. Und die ist dann doch sehr überschaubar. Das stürzt uns in ein Dilemma: Grenzen wir die KI mit unseren bornierten Vorstellungen zu sehr ein, kann sie nicht liefern, was wir uns von ihr erhoffen. Dann wäre sie wie ein Astronaut, der für uns zu den Sternen fliegen soll, und den wir aus lauter Angst, er könne abheben, anseilen. Das Problem ist, wir können zwar wollen, dass die KI uns hilft, aber wir können nicht wollen, was wir wollen – wer hätte im Mittelalter das Internet wollen können? Lassen wir der KI also völlig freie Hand? Einem sich selbst rasant verbessernden System, das wir schon bald nicht mehr verstehen werden? Dann laufen wir Gefahr, dass sie irgendwann gegen unsere Interessen zu handeln beginnt. Unsere Weitsicht reicht schlicht nicht aus, ihr ultimative Grenzen zu stecken. Vielmehr müssen wir immer aufs Neue die Weichen stellen, um der KI den größtmöglichen Freiheitsgrad zu gewährleisten, ohne dass sie ethische Regularien umgeht. 

Eine Maschine kennt – Stand jetzt – keine Ethikvorstellungen. Wird Sie diese erlernen können?

Schätzing: Algorithmen sind ein bisschen wie Gene. Unsere Wertvorstellungen, unsere Gefühle, unser Empfinden für Menschenwürde, all dies ist nicht genetisch hinterlegt, sondern gründet auf kulturell getroffenen Vereinbarungen, und ebenso wenig lässt es sich in Algorithmen ausdrücken, die nichts weiter sind als mathematische Handlungsanweisungen. Eine Maschine verspürt kein Glück, keine Trauer, kein Bedürfnis nach Würde, sie hat ja nicht mal ein Empfinden ihrer eigenen Existenz. Dennoch kann sie durch permanente Beobachtung der realen Welt autonom lernen, was Ethik und Gefühle für uns bedeuten. Dafür braucht sie Zugriff auf die Gesamtheit aller verfügbaren Daten. Wir als Menschen müssen sicherstellen, dass sie, was da erlernt, nicht missversteht.

Will heißen: Je besser die Menschen sich also an Wertevorstellungen festhalten und sozialen Frieden anstreben, desto weniger haben sie von einer Künstlichen Intelligenz zu befürchten?

Schätzing: Je gefestigter ihre Vorstellungen davon werden, wie die perfekte Welt auszusehen hat – auf der Basis unserer Eingaben –, desto deutlicher wird die Maschine erkennen, dass eine Größe in der Gleichung nie perfekt sein wird: wir Menschen. So wie Kinder irgendwann rausfinden, dass Eltern fortgesetzt gegen die von ihnen selbst gepredigten Grundsätze verstoßen. Wir sollten der Maschine also vorleben, was wir von ihr verlangen, nämlich ethisches Verhalten, und zugleich im eigenen Interesse vermeiden, dass sie nach Perfektion zu streben beginnt. Das Streben nach Perfektion endet mit unserer Abschaffung.

Teil 1: „Schon jetzt sind manche KIs die besseren Naturwissenschaftler und Analysten“

Teil 2: „Zuckerberg geht es um Daten, Macht, Geld und Kontrolle“

Teil 3: „Eine Super-KI kann enormen Wohlstand schaffen, von dem die gesamte Menschheit profitiert“

Das interessiert andere Leser

  • Titelthema: Die Tech Trends 2018

    Künstliche Intelligenz, Robotik, E-Mobilität und Co. dominieren die Zukunft. Was die technologische Umwälzung bringt und wie Elon Musk und Co. Trends setzen.

  • Elon Musk
    Zwischen Genie und Wahnsinn

    Hyperloop und Marsmissionen revolutionieren Mobilität. Eines muss man ihm lassen: Elon Musk hat visionäre Ideen – und den Mut, sie zu verwirklichen.

  • Nachfolgeberatung für Familienunternehmen und KMUs
    Berater gesucht - gefunden

    Eine gute Nachfolgeberatung kann bei Unternehmensverkäufen helfen. Wie aber finden Unternehmen den richtigen Fachmann?

  • Immer weniger Nachfolger in Sicht

    Die deutsche Wirtschaft brummt, die Grundlage für Gründerwachstum ist gelegt. Tatsächlich sinkt die Zahl der Gründer, damit sind auch weniger potentielle Unternehmensnachfolger auf dem Markt.

  • Franchise boomt in Deutschland

    Die Firmen haben 2017 ein Umsatzplus von acht Prozent gegenüber 2016 erwirtschaftet. Nun präsentiert sich der Wirtschaftszweig auf einer großen Messe in Frankfurt am Main - mit mind. 125 Marken.

  • Revolution in der Storage-Branche

    JAMES-Box will die Storage-Branche revolutionieren. Geschäftsführer Marcus Rey plant nach einem gelungenen Start die Expansion und sucht dafür Investoren.

  • Daimler kooperiert mit Taxify
    Daimler kauft sich bei Uber-Konkurrent ein

    Der Stuttgarter Automobilkonzern Daimler beteiligt sich nach exklusiven Informationen des DUB UNTERNEHMER-Magazins an dem estnischen Mobilitätsanbieter Taxify.

  • Industrie 4.0
    Spezial Industrie 4.0: Schrittmacher der Industrie

    Voll automatisierte Fertigung, Cobots, Digitale Zwillinge –Experten von Kuka, Linde und KPMG erklären die Metamorphose der Industrie im Interview.

  • Auf und davon

    Eine neue Generation von Selbstständigen erobert die digitale Geschäftswelt. Sie sind gut ausgebildet, kreativ – und reisen um die Welt. Warum immer mehr digitale Nomaden unterwegs sind.

  • Land der Handwerker?

    Das deutsche Handwerk steuert in die Krise: Ein Fünftel aller Handwerksunternehmer muss in den nächsten Jahren einen passenden Nachfolger finden. Wie das Kunststück gelingen kann.

  • Pension ohne Murren und Knurren

    Unternehmensverkauf mit Pensionszusage für den scheidenden Inhaber – bislang ein Hindernis für viele Nachfolger. Ein neues Urteil macht es beiden Parteien nun leichter.

  • Progression versus Tradition

    Unternehmerische Freiheit oder lieber finanzielle Sicherheit? Gute Preiskonditionen oder Erfolgsgarantie? Was Franchise-Pioniere und -Traditionalisten voneinander unterscheidet.

  • Roland Berger Interview
    Exklusiv: „Übernehmt Verantwortung“

    Audienz bei einer Eminenz. Warum Überzeugungen gerade für Unternehmer entscheidend sind und wie Menschlichkeit zum Erfolgsfaktor wird – Beraterlegende Roland Berger im Tacheles-Talk.

  • Homo Emoticus

    Niemand kauft einen Porsche nur, um Auto zu fahren. Niemand verkauft eine Firma nur, um Geld zu verdienen. Was die eigentlichen Motive für Käufe und Verkäufe sind.

  • Kurzer Prozess

    Thomas und Karin Schneider wussten genau, was für ein Unternehmen sie kaufen wollten. Ihnen ist eine Übernahme im Eiltempo gelungen. Was ist ihr Erfolgsrezept?

  • Lernen vom Gründer-Guru

    Shai Agassi ist so etwas wie der Bill Gates Israels. In den Neunzigern baute er gleich vier Unternehmen auf, seither folgten zwei weitere. Was Entrepreneure von ihm lernen können.

  • Der Countdown läuft

    Am 25. Mai ist es soweit – die europäische Datenschutz-Grundverordnung (DSGVO) tritt in Kraft. Was Unternehmen jetzt noch tun können, um die Regelungen umzusetzen.

  • Smart Energy und Elektromobilität
    Energiewende: Die Zukunft ist grün

    Energieversorgung von morgen: Vom smarten Zuhause über E-Mobilität bis hin zu innovativen und dezentralen Lösungen. Diese Unternehmen revolutionieren mit nachhaltigen Trends die Branche.

  • Nachfolgetypen

    Wer ein Unternehmen aufbaut, wünscht sich meistens, dass das Lebenswerk von einem Familienmitglied weiterentwickelt wird. Lesen Sie, welche Faktoren die Nachfolge begünstigen.

  • Self-Storage Startups mit neuen Lagerraum-Lösungen

    Der Arbeitsplatz von heute gewährt freie Platzwahl in Coworking-Spaces. Doch die neue Flexibilität hat Ihren Preis: mangelnder Stauraum für Papiere und Akten. Die Shareing Economy bietet Lösungen.

  • Franchise Expo18 Logo
    Save the date - Franchise Expo18 im September in Frankfurt

    Die Franchise Expo18 bringt vom 27. bis zum 29.09.2018 über 100 internationale Aussteller auf das Messegelände in Frankfurt und bietet Informationsmöglichkeiten und spannende Workshops rund um Franchising.

  • Finanzierung von Innovationen

    Um langfristig erfolgreich zu sein, müssen Unternehmen innovativ sein. Viele Investoren scheuen jedoch das damit verbundene Risiko. Deshalb ist Beteiligungskapital gefragt.

  • Israels Innovationen

    Israel ist eine der größten Innovationsschmieden der Welt. Der Erfolg der Startup-Nation hat System, der Staat investiert massiv in Forschung und Entwicklung.

  • Risiken bei Kauf und Halten eines GmbH-Anteils

    Gesellschafter, die einen GmbH-Anteil kaufen oder halten, denken vielfach, dass bei voll einbezahlter Stammeinlage keine Haftungsgefahren drohen.

  • Allen gerecht werden

    Die Ökonomin Kate Raworth fordert ein fixes Umdenken der Wirtschaft und plädiert für ein Gleichgewicht zwischen Kapitalismus, sozialer Gerechtigkeit und Ökologie.

  • Meer und mehr Gründergeist

    Die Suche nach Erfolg im digitalen Zeitalter führt nach Israel ins Silicon Wadi – wo die Menschen mit Begabung, Bildung und Begeisterung kritische Umstände in Stärken verwandeln.

  • Du kommst hier nicht rein!

    Kryptotrojaner, DDos-Attacken, Phishing – Cyberkriminelle verfügen über ein großes Waffenarsenal. Höchste Zeit für entsprechende Abwehrstrategien.

  • Den Kauf optimal bilanzieren

    Unternehmenstransaktionen werden immer komplizierter. Ihre Bilanzierung hat materielle Auswirkungen auf den Konzernabschluss des Erwerbers.

  • Nachfolge im Franchise

    Eine Unternehmensnachfolge im Franchising weist generell deutlich weniger Minenfelder auf als die Gründung eines neuen Unternehmens. Wie es geht und worauf zu achten ist erfahren Sie hier.

  • Bio-Unternehmen suchen Nachfolger

    Biobetriebe tun sich besonder schwer einen Nachfolger zu finden. Neben Unternehmergeist muss er auch eine ökologische Einstellung mitbringen. Was bei der Suche hilft erfahren Sie hier.

DUB-Unternehmensbörse

Bei der Deutschen Unternehmerbörse können Sie Verkaufsangebote und Kaufgesuche inserieren.
Jetzt nach Verkaufsangeboten für Unternehmen suchen!
Suchen
Jetzt Newsletter bestellen
DUB-Themennewsletter
monatlich & gratis
Was Unternehmer wissen müssen
DUB-Börsennewsletter
wöchentlich & gratis
Die neusten Angebote und Gesuche auf einen Blick
Das interessiert andere Leser
  • Titelthema: Die Tech Trends 2018

    Künstliche Intelligenz, Robotik, E-Mobilität und Co. dominieren die Zukunft. Was die technologische Umwälzung bringt und wie Elon Musk und Co. Trends setzen.

  • Elon Musk
    Zwischen Genie und Wahnsinn

    Hyperloop und Marsmissionen revolutionieren Mobilität. Eines muss man ihm lassen: Elon Musk hat visionäre Ideen – und den Mut, sie zu verwirklichen.

  • Nachfolgeberatung für Familienunternehmen und KMUs
    Berater gesucht - gefunden

    Eine gute Nachfolgeberatung kann bei Unternehmensverkäufen helfen. Wie aber finden Unternehmen den richtigen Fachmann?

  • Immer weniger Nachfolger in Sicht

    Die deutsche Wirtschaft brummt, die Grundlage für Gründerwachstum ist gelegt. Tatsächlich sinkt die Zahl der Gründer, damit sind auch weniger potentielle Unternehmensnachfolger auf dem Markt.

  • Franchise boomt in Deutschland

    Die Firmen haben 2017 ein Umsatzplus von acht Prozent gegenüber 2016 erwirtschaftet. Nun präsentiert sich der Wirtschaftszweig auf einer großen Messe in Frankfurt am Main - mit mind. 125 Marken.

  • Revolution in der Storage-Branche

    JAMES-Box will die Storage-Branche revolutionieren. Geschäftsführer Marcus Rey plant nach einem gelungenen Start die Expansion und sucht dafür Investoren.

  • Daimler kooperiert mit Taxify
    Daimler kauft sich bei Uber-Konkurrent ein

    Der Stuttgarter Automobilkonzern Daimler beteiligt sich nach exklusiven Informationen des DUB UNTERNEHMER-Magazins an dem estnischen Mobilitätsanbieter Taxify.

  • Industrie 4.0
    Spezial Industrie 4.0: Schrittmacher der Industrie

    Voll automatisierte Fertigung, Cobots, Digitale Zwillinge –Experten von Kuka, Linde und KPMG erklären die Metamorphose der Industrie im Interview.

  • Auf und davon

    Eine neue Generation von Selbstständigen erobert die digitale Geschäftswelt. Sie sind gut ausgebildet, kreativ – und reisen um die Welt. Warum immer mehr digitale Nomaden unterwegs sind.

  • Land der Handwerker?

    Das deutsche Handwerk steuert in die Krise: Ein Fünftel aller Handwerksunternehmer muss in den nächsten Jahren einen passenden Nachfolger finden. Wie das Kunststück gelingen kann.

  • Pension ohne Murren und Knurren

    Unternehmensverkauf mit Pensionszusage für den scheidenden Inhaber – bislang ein Hindernis für viele Nachfolger. Ein neues Urteil macht es beiden Parteien nun leichter.

  • Progression versus Tradition

    Unternehmerische Freiheit oder lieber finanzielle Sicherheit? Gute Preiskonditionen oder Erfolgsgarantie? Was Franchise-Pioniere und -Traditionalisten voneinander unterscheidet.