Außer Kontrolle?

„Zuckerberg geht es um Daten, Macht, Geld und Kontrolle“

Frank Schätzing plädiert für einen Wandel hin zu sozialen Werten

Frank Schätzing: Der Autor glaubt an die Gefahren, welche die Künstliche Intelligenz mit sich bringen könnte  (Foto: PR)

Inhi Cho Suh, General Managerin bei IBM, oder auch Mark Zuckerberg sowie Wladmir Putin sehen mehr Chance als Risiko im Bereich der KI. Wie realistisch schätzen Sie ein Szenario ein, in dem die Technologie dem Menschen zur Gefahr wird?

Schätzing: Realistisch. Es muss nicht immer gleich das Untergangsszenario sein. Aber der Moment des Innehaltens, der Risiko-Abwägung, fehlt mir in der Welt des Silicon Valleys. So sehr ich es begrüße, dass dort nicht wie anderswo – auch hierzulande – Bedenkenträger jede kühne Neuerung verhindern, so sehr stört mich der Mangel an Reflektion. Zudem muss man sehen, wer KI aus welcher Interessenlage heraus beurteilt. Auf Zuckerbergs edle Absichten würde ich nicht setzen. Dem glaube ich per se erst einmal gar nichts. Ihm geht es um Daten, Macht, Geld und Kontrolle. Putin? Na ja. Vordenker wie Larry Page, Elon Musk und Jaron Lanier hingegen weisen sich zunehmend als Mahner aus und fordern mehr Zeit zum Innehalten, um heute keine irreparablen Fehler zu machen.

Wirtschaftsgrößen wie Elon Musk, Bill Gates oder zu Lebzeiten auch Stephen Hawking warnen vor den unabsehbaren Folgen und Gefahren von KI. Ein Leben ohne den Einsatz von KI scheint jedoch heute angesichts der zahlreich eingesetzten Algorithmen kaum noch denkbar. Eine Zwickmühle. Wo müssen die Grenzen verlaufen, innerhalb der sich die KI bewegen darf? 

Schätzing: Aus dem Hier und Jetzt heraus ist es wahnsinnig schwer, überhaupt eine Grenze zu ziehen. Denn wer zöge sie? Unsere Vorstellungskraft. Und die ist dann doch sehr überschaubar. Das stürzt uns in ein Dilemma: Grenzen wir die KI mit unseren bornierten Vorstellungen zu sehr ein, kann sie nicht liefern, was wir uns von ihr erhoffen. Dann wäre sie wie ein Astronaut, der für uns zu den Sternen fliegen soll, und den wir aus lauter Angst, er könne abheben, anseilen. Das Problem ist, wir können zwar wollen, dass die KI uns hilft, aber wir können nicht wollen, was wir wollen – wer hätte im Mittelalter das Internet wollen können? Lassen wir der KI also völlig freie Hand? Einem sich selbst rasant verbessernden System, das wir schon bald nicht mehr verstehen werden? Dann laufen wir Gefahr, dass sie irgendwann gegen unsere Interessen zu handeln beginnt. Unsere Weitsicht reicht schlicht nicht aus, ihr ultimative Grenzen zu stecken. Vielmehr müssen wir immer aufs Neue die Weichen stellen, um der KI den größtmöglichen Freiheitsgrad zu gewährleisten, ohne dass sie ethische Regularien umgeht. 

Eine Maschine kennt – Stand jetzt – keine Ethikvorstellungen. Wird Sie diese erlernen können?

Schätzing: Algorithmen sind ein bisschen wie Gene. Unsere Wertvorstellungen, unsere Gefühle, unser Empfinden für Menschenwürde, all dies ist nicht genetisch hinterlegt, sondern gründet auf kulturell getroffenen Vereinbarungen, und ebenso wenig lässt es sich in Algorithmen ausdrücken, die nichts weiter sind als mathematische Handlungsanweisungen. Eine Maschine verspürt kein Glück, keine Trauer, kein Bedürfnis nach Würde, sie hat ja nicht mal ein Empfinden ihrer eigenen Existenz. Dennoch kann sie durch permanente Beobachtung der realen Welt autonom lernen, was Ethik und Gefühle für uns bedeuten. Dafür braucht sie Zugriff auf die Gesamtheit aller verfügbaren Daten. Wir als Menschen müssen sicherstellen, dass sie, was da erlernt, nicht missversteht.

Will heißen: Je besser die Menschen sich also an Wertevorstellungen festhalten und sozialen Frieden anstreben, desto weniger haben sie von einer Künstlichen Intelligenz zu befürchten?

Schätzing: Je gefestigter ihre Vorstellungen davon werden, wie die perfekte Welt auszusehen hat – auf der Basis unserer Eingaben –, desto deutlicher wird die Maschine erkennen, dass eine Größe in der Gleichung nie perfekt sein wird: wir Menschen. So wie Kinder irgendwann rausfinden, dass Eltern fortgesetzt gegen die von ihnen selbst gepredigten Grundsätze verstoßen. Wir sollten der Maschine also vorleben, was wir von ihr verlangen, nämlich ethisches Verhalten, und zugleich im eigenen Interesse vermeiden, dass sie nach Perfektion zu streben beginnt. Das Streben nach Perfektion endet mit unserer Abschaffung.

Teil 1: „Schon jetzt sind manche KIs die besseren Naturwissenschaftler und Analysten“

Teil 2: „Zuckerberg geht es um Daten, Macht, Geld und Kontrolle“

Teil 3: „Eine Super-KI kann enormen Wohlstand schaffen, von dem die gesamte Menschheit profitiert“

Das interessiert andere Leser

  • Die digitale Transformation gelingt im Unternehmen nur im Miteinander
    „Mehr Empathie denn je“

    Die digitale Transformation gelingt im Unternehmen nur im Miteinander, postuliert Antje Leminsky, CEO beim Finanzierungsspezialisten GRENKE.

  • China hat sich zu einer der führenden wirtschaftlichen und technologischen Weltmacht entwickelt. Ex-Chefredakteur der „Die Zeit“ Theo Sommer erklärt, was der Aufstieg bedeutet.
    Chinas Aufstieg zum technologischen Vorreiter

    China hat sich zu einer der führenden wirtschaftlichen und technologischen Weltmacht entwickelt. Ex-Chefredakteur der „Die Zeit“ Theo Sommer erklärt, was der Aufstieg bedeutet.

  • Marc Simons von SIMONS & KOLLEGEN weiß, wie man sich für die richtige betriebliche Krankenversicherung entscheidet.
    „Passende Lösungen für die ganze Belegschaft“

    Die Entscheidung für die richtige betriebliche Krankenversicherung (bKV) fällt vielen Unternehmen nicht leicht. Marc Simons von SIMONS & KOLLEGEN weiß Rat.

  • Nur ein Bruchteil der deutschen Unternehmen hat einen Krankenzusatzschutz für seine Mitarbeiter abgeschlossen.
    Vorsorge im Doppelpack

    Nur ein Bruchteil der deutschen Unternehmen hat einen Krankenzusatzschutz für seine Mitarbeiter abgeschlossen. Dabei bietet die bKV viele Vorteile – für Betriebe wie Angestellte.

  • T-Systems-CEO Adel Al-Saleh über die Telematik-infrastruktur in der Gesundheitsbranche.
    „Deutschland hinkt noch hinterher“

    Die Telematik-infrastruktur ist das fehlende Bindeglied in der Kommunikation zwischen Ärzten, Apotheken und Krankenkassen, mahnt T-Systems-CEO Adel Al-Saleh.

  • Stephanie Renda kennt die Grenzen, an die Frauen stoßen.
    „Das einzige Mittel der Wahl“

    Courage: Als junge Mutter gründete Stephanie Renda 2008 ihr eigenes Unternehmen. Heute engagiert sie sich für die ganze Start-up-Szene. Sie kennt die Grenzen, an die Frauen stoßen.

  • Maria Moraeus Hanssen fordert Diversität in Unternehmen
    „Sagen Sie Ja zu neuen Chancen“

    Maria Moraeus Hanssen ist Vorstandsvorsitzende der DEA Deutsche Erdoel AG. Die Norwegerin fordert Diversität in Unternehmen – und das weit über die Geschlechterfrage hinaus.

  • Ines von Jagemann über die neuen Chancen für Frauen, in Führungspositionen zu kommen.
    „Lernen Sie, sich selbst zu schätzen“

    Ines von Jagemann, Geschäftsführerin Digital bei Tchibo, über Digital Leadership und die neuen Chancen für Frauen, in Führungspositionen zu kommen.

  • Verena Pausder will, dass unsere Kleinen einmal digital ganz groß werden.
    Die Zukunft beginnt genau jetzt

    Es könnte abgedroschen klingen, wäre es nicht so unwiderlegbar: Gründerin Verena Pausder will, dass unsere Kleinen einmal digital ganz groß werden.

  • Sarna Röster macht sich für den Nachwuchs stark – und glaubt nicht an die Frauenquote.
    „Gründergeist in die Schulen“

    Sarna Röster, die Nachfolgerin des Familienbetriebs Karl Röser & Sohn, macht sich für den Nachwuchs stark. Im Interview erklärt sie warum sie gegen eine Frauenquote ist.

  • Beate Oblau behauptete sich gegen zwei Männer in der Unternehmensspitze
    „Nur Kompetenz zählt“

    Neben zwei Männern behauptet sich Beate Oblau an der Spitze des Schreibgeräteherstellers Lamy. Sie spricht über die Digitalisierung der Marke und warum ihr Geschlecht irrelevant ist.

  • Prof. Sabina Jeschke über den Mobilfunkstandard 5G und ihre Arbeit als Ingenieurin
    „Digital Leader sein heißt Vielfalt fördern“

    Prof. Sabina Jeschke, Vorstand Digitalisierung und Technik der Deutschen Bahn, über den Mobilfunkstandard 5G und ihre Arbeit als Ingenieurin in einem klassischen Männerbereich.

  • Personalvorständin von EWE, Marion Rövekamp, über Diversity und Frauenförderung.
    „Netzwerken ist essenziell“

    Als Personalvorständin von EWE setzt sich Marion Rövekamp unter anderem für die Themen Diversity und Frauenförderung ein – auch, um damit drohendem Fachkräftemangel zu begegnen.

  • Die Designerin Jette Joop über ihr Geschäft und Frauen in Führungspositionen
    „Wer Konflikte aushält, kommt weiter“

    Die Designerin Jette Joop über ihr Geschäft und Frauen in Führungspositionen – und was ihr selbst als Unternehmerin geholfen hat.

  • Michael Kaib und David O’Neill von Reemtsma erklären, wie die E-Zigarette den Wandel im Traditionsunternehmen treibt.
    Plötzlich anders

    Gestern Tabakhersteller, heute Technikproduzent: Michael Kaib und David O’Neill von Reemtsma erklären, wie die E-Zigarette den Wandel im Traditionsunternehmen treibt.

  • Eine neue Umfrage zum Thema Nachfolge legt offen: Eine große Mehrheit der Firmeninhaber trifft keine Regelungen für einen möglichen Notfall.
    Notfallplan für die Unternehmensnachfolge

    Eine aktuelle Umfrage zum Thema Nachfolge legt offen: Eine große Mehrheit der Firmeninhaber trifft keine Regelungen für einen möglichen Notfall. Was sind die Gründe für dieses Versäumnis?

  • Ist der Unternehmensverkauf vertraglich in trockenen Tüchern, muss der Betrieb noch übergeben werden. Dieser Übergabeprozess ist für Käufer und Verkäufer deutlich umfangreicher als eine reine Schlüsselübergabe.
    Arbeitsreicher Abschied und Neuanfang

    Ist der Unternehmensverkauf vertraglich geregelt, muss der Betrieb noch übergeben werden. Dieser Übergabeprozess ist für Käufer und Verkäufer deutlich umfangreicher als eine reine Schlüsselübergabe.

  • Digitalisierung in Unternehmen: In vielen Bereichen gibt es erheblichen Handlungsbedarf
    5 Digitale Thesen

    _MEDIATE berät Unternehmen zur digitalen Transformation. Die Ergebnisse der jährlichen Befragung zur Ermittlung der Transformationspioniere zeigen, dass es in vielen Bereichen Handlungsbedarf gibt.

  • Weniger Risiko und gute Erfolgschancen -
    Franchise: Weniger Risiko und gute Erfolgschancen

    Franchise-Gründer profitieren von einer bereits ausgereiften Idee und einem am Markt erprobten Konzept. Doch was gilt es auf dem Weg in die Selbstständigkeit zu beachten? Ein ausführlicher Überblick.

  • Nach der Unternehmensübergabe: Darauf sollten frischgebackene Chefs achten
    Ab jetzt läuft hier einiges anders!

    Nach einer Unternehmsübergabe möchten viele Vorgesetze die bisherigen betrieblichen Abläufe nach ihren Vorstellungen umgestalten. Doch gelingt so eine erfolgreiche Integration in die neue Führungsposition?

  • Wer suchet, der findet - Unternehmensübergabe: 5 Nachfolgeszenarien
    Wer suchet, der findet!

    Welche Möglichkeiten haben Unternehmer ihr Lebenswerk zu übergeben, wenn sich in der Familie kein passender Nachfolger finden lässt? Fünf Übergabe Szenarien im Überblick.

  • Der Kauf eines Planungsunternehmens stellt Nachfolger vor Herausforderungen.
    Kompetenz ist ohne Alternative

    Der Kauf eines Planungsunternehmens stellt Nachfolger vor Herausforderungen. Consultingexperte Karl-Heinz Seidel erklärt im Interview, worauf Verkäufer achten sollten.

  • Frauen stehen bei Unternehmensnachfolgen oftmals hinten an. Das muss sich ändern. Zum Weltfrauentag blicken wir auf den Status quo.
    Chefin gesucht: Frauen für die Unternehmensnachfolge

    Frauen stehen bei Unternehmensnachfolgen oftmals hinten an. Das muss sich ändern, vor allem als Nachfolgerinnen werden sie dringend benötigt. Zum Weltfrauentag blicken wir auf den Status quo.

  • Altenpflege und -betreuung entwickelt sich hinsichtlich aktueller  demografischer Entwicklungen zu einem der kommenden Franchise-Trends.
    Wachstumsmarkt Altenpflege – Franchisekonzepte als ideale Basis

    Der demografische Wandel bringt Schwung in die Gesundheitsbranche. Das gilt auch für den Pflegemarkt insbesondere Die Altenpflege, die sich hinsichtlich aktueller Entwicklungen zu einem der kommenden ...

  • Brigitte Zypries wird Herausgeberin des DUB UNTERNEHMER-Magazins
    Brigitte Zypries wird Herausgeberin des DUB UNTERNEHMER-Magazins.

    Als Herausgeberin berät Zypries die Chefredaktion bei der publizistischen Ausrichtung des Magazins. Darüber hinaus wird sie Kolumnistin des zweimonatlich erscheinenden Wirtschaftstitels.

  • Unternehmensnachfolge - Antworten auf die FAQs der DUB.de Leser rund um das Thema
    Alles andere als einfach

    Unternehmer, die für ihren Betrieb einen Nachfolger suchen, stehen vor einem komplexen Prozess, der Fragen aufwirft. Hier finden sich Antworten auf diejenigen, die unsere Leser und die User von DUB.de ...

  • Franchisesysteme in der Krise
    Die richtige Strategie - Insolvenzen und andere Franchisenehmer-Exits richtig anpacken

    Auch gut organisierten Franchisesystemen bleiben Krisen nicht erspart – so kann es etwa durchaus passieren, dass einem Franchisenehmer finanziell die Luft ausgeht und er Insolvenz anmelden muss.

  • Cyberangriffe - wie können sich Unternehmer schützen und wer hilft im Notfall?
    Letzter Retter

    Sechs von zehn Cyberangriffen zielen laut Bitkom auf mittelständische Unternehmen ab. Wie sich Unternehmer schützen können und wer im Notfall hilft.

  • Ein Blick ins Innere der Amazon-Welt: Jeff Bezos hat den Buchhändler zum wertvollsten Unternehmen der Welt gemacht.
    Die Denke des Masterminds

    Ein Blick ins Innere der Amazon-Welt: Jeff Bezos hat den Buchhändler zum wertvollsten Unternehmen der Welt gemacht. Was treibt ihn an? Wie geht er vor? Die Highlights.

  • Stuttgarter-Expertin Henriette Meissner erklärt die Vorteile des neuen bAV-Gesetzes.
    Der Staat hilft mit

    Steuervorteile, Zuschüsse, Freibeträge: Neue Regelungen für die betriebliche Altersversorgung bieten jetzt mehr Vorzüge für Arbeitnehmer und Arbeitgeber. Henriette Meissner klärt auf.

DUB-Unternehmensbörse

Bei der Deutschen Unternehmerbörse können Sie Verkaufsangebote und Kaufgesuche inserieren.
Jetzt nach Verkaufsangeboten für Unternehmen suchen!
Suchen
Jetzt Newsletter bestellen
DUB-Themennewsletter
monatlich & gratis
Was Unternehmer wissen müssen
DUB-Börsennewsletter
wöchentlich & gratis
Die neusten Angebote und Gesuche auf einen Blick
Das interessiert andere Leser
  • Die digitale Transformation gelingt im Unternehmen nur im Miteinander
    „Mehr Empathie denn je“

    Die digitale Transformation gelingt im Unternehmen nur im Miteinander, postuliert Antje Leminsky, CEO beim Finanzierungsspezialisten GRENKE.

  • Marc Simons von SIMONS & KOLLEGEN weiß, wie man sich für die richtige betriebliche Krankenversicherung entscheidet.
    „Passende Lösungen für die ganze Belegschaft“

    Die Entscheidung für die richtige betriebliche Krankenversicherung (bKV) fällt vielen Unternehmen nicht leicht. Marc Simons von SIMONS & KOLLEGEN weiß Rat.

  • Nur ein Bruchteil der deutschen Unternehmen hat einen Krankenzusatzschutz für seine Mitarbeiter abgeschlossen.
    Vorsorge im Doppelpack

    Nur ein Bruchteil der deutschen Unternehmen hat einen Krankenzusatzschutz für seine Mitarbeiter abgeschlossen. Dabei bietet die bKV viele Vorteile – für Betriebe wie Angestellte.

  • T-Systems-CEO Adel Al-Saleh über die Telematik-infrastruktur in der Gesundheitsbranche.
    „Deutschland hinkt noch hinterher“

    Die Telematik-infrastruktur ist das fehlende Bindeglied in der Kommunikation zwischen Ärzten, Apotheken und Krankenkassen, mahnt T-Systems-CEO Adel Al-Saleh.

  • Stephanie Renda kennt die Grenzen, an die Frauen stoßen.
    „Das einzige Mittel der Wahl“

    Courage: Als junge Mutter gründete Stephanie Renda 2008 ihr eigenes Unternehmen. Heute engagiert sie sich für die ganze Start-up-Szene. Sie kennt die Grenzen, an die Frauen stoßen.

  • Maria Moraeus Hanssen fordert Diversität in Unternehmen
    „Sagen Sie Ja zu neuen Chancen“

    Maria Moraeus Hanssen ist Vorstandsvorsitzende der DEA Deutsche Erdoel AG. Die Norwegerin fordert Diversität in Unternehmen – und das weit über die Geschlechterfrage hinaus.

  • Ines von Jagemann über die neuen Chancen für Frauen, in Führungspositionen zu kommen.
    „Lernen Sie, sich selbst zu schätzen“

    Ines von Jagemann, Geschäftsführerin Digital bei Tchibo, über Digital Leadership und die neuen Chancen für Frauen, in Führungspositionen zu kommen.

  • Verena Pausder will, dass unsere Kleinen einmal digital ganz groß werden.
    Die Zukunft beginnt genau jetzt

    Es könnte abgedroschen klingen, wäre es nicht so unwiderlegbar: Gründerin Verena Pausder will, dass unsere Kleinen einmal digital ganz groß werden.

  • Sarna Röster macht sich für den Nachwuchs stark – und glaubt nicht an die Frauenquote.
    „Gründergeist in die Schulen“

    Sarna Röster, die Nachfolgerin des Familienbetriebs Karl Röser & Sohn, macht sich für den Nachwuchs stark. Im Interview erklärt sie warum sie gegen eine Frauenquote ist.

  • Beate Oblau behauptete sich gegen zwei Männer in der Unternehmensspitze
    „Nur Kompetenz zählt“

    Neben zwei Männern behauptet sich Beate Oblau an der Spitze des Schreibgeräteherstellers Lamy. Sie spricht über die Digitalisierung der Marke und warum ihr Geschlecht irrelevant ist.

  • Prof. Sabina Jeschke über den Mobilfunkstandard 5G und ihre Arbeit als Ingenieurin
    „Digital Leader sein heißt Vielfalt fördern“

    Prof. Sabina Jeschke, Vorstand Digitalisierung und Technik der Deutschen Bahn, über den Mobilfunkstandard 5G und ihre Arbeit als Ingenieurin in einem klassischen Männerbereich.

  • Personalvorständin von EWE, Marion Rövekamp, über Diversity und Frauenförderung.
    „Netzwerken ist essenziell“

    Als Personalvorständin von EWE setzt sich Marion Rövekamp unter anderem für die Themen Diversity und Frauenförderung ein – auch, um damit drohendem Fachkräftemangel zu begegnen.