Artificial Intelligence – Tay and You

Schlägt „Tay“, Microsofts Artificial Intelligence, über die Stränge? – Microsofts ließ am 23.3.2016 seine neue AI über den eigenen twitter-Account (@TayandYou) in den Austausch mit der Öffentlichkeit treten. Tay sollte lernen. Der Lerneffekt wurde zum kleinen Drama …

tay-ai.MS

Bild: Microsoft/twitter

„Tay“ wurde in seinen Äußerungen zunehmend rassistisch und sexistisch – binnen der ersten 24 Stunden nach Start. Und Microsoft zog den Stecker und legte Tay erstmal schlafen. Deren letzter Tweet: „c u soon humans need sleep now so many conversations today thx 💖“.

Dabei waren Microsofts Erfahrungen mit AI-basierten Chatbots gar nicht mal so schlecht: “In China, our XiaoIce chatbot is being used by some 40 million people, delighting with its stories and conversations. The great experience with XiaoIce led us to wonder: Would an AI like this be just as captivating in a radically different cultural environment? Tay – a chatbot created for 18- to 24- year-olds in the U.S. for entertainment purposes – is our first attempt to answer this question.” Peter Lee, Corporate Vice President,
Microsoft Research (http://research.microsoft.com/en-us/people/petelee/)

Durch diese „Teenie“-AI und Chat-Entität wird allerdings Einiges deutlicher: je mehr unsere Infrastruktur in Kommunikation, Medien und globaler Vernetzung durch digitale smarte Softwares oder eine Art künstliche Intelligenz gesteuert werden wird, umso mehr scheinen sich die Vermutungen bis Befürchtungen von Elon Musk, Stephen Hawking und weiteren Mitgliedern einer internationalen AI-Beobachter-Gruppe von Unternehmern und Forschern zu bestätigen: Künstliche Intelligenz braucht eine Kontrolle und gewisse Grenzen, erst recht wenn sie in wichtige Schnittstellen unserer globalen Infrastruktur integriert ist. Damit sie uns Menschen nutzen, und nicht eventuell schädigen oder gefährden kann.

8-cellDabei geht es gar nicht einmal um die übelwollenden „Robot Overlords“, sondern vorerst um die Tatsache, dass wir von der Wissenschaft her trotz aller Fortschritte in Psychologie, Verhaltensforschung und Neurowissenschaften vermutlich immer noch nicht genug wissen, wie Intelligenz eigentlich funktioniert.

So scheint selbstbewusste Intelligenz noch nicht einmal mit der Größe des Gehirns zusammenzuhängen – sondern mit der Effizienz der Vernetzung. Manche Vogelarten sind intelligenter als Kinder im Alter von ca 4 Jahren und damit gleichzustellen beispielsweise mit der Intelligenz von Orang-Utang oder Schimpansen. Und dennoch ist das Gehirn einer Krähe gerade mal so groß wie eine Walnuss.

Kann Intelligenz überhaupt reine Software sein? Vermutlich nicht. Unsere menschliche Intelligenz und unser Selbst-Bewusstsein bestehen nicht nur aus vernetzten neuronalen Schaltkreisen. Es ist nicht unser Hirn-Nervenzentrum allein, das die Entscheidungen trifft. So ist nicht nur unser Gehirn Teil unserer eigenen neuronalen Netzwerke, unserer Nervenzentren, sondern ebenfalls das zentrale Nervennetzwerk der Wirbelsäule, und sogar die Nerven im Darmbereich haben ihre Einflüsse. Alle diese Nervenzentralen stehen in stetigem Austausch miteinander, wie auch mit unserem Körper insgesamt, mit dem Hormonsystem, unseren Sinnen allgemein und mit einigen weiteren Faktoren. Vieles beeinflusst sich gegenseitig.

Darum braucht eine Intelligenz möglicherweise einen Körper, um wirklich selbstbewusst und reflexiv sein zu können; auch wenn der Körper wahrscheinlich nicht unbedingt aus biologischen Zellen bestehen müsste. Eine künstlich geschaffene Intelligenz muss „nur“ wissen, dass beispielsweise ihr physikalischer Körper ein zentrales oder vernetztes Computersystem ist. Ebenso könnte eine Artificial Intelligent Entity auch die Infrastruktur, in die sie integriert ist, als ihren Körper betrachten: Das könnten Verkehrsleitsysteme der Zukunft sein, Digitale-Stadt-Organisations-Systeme, automatische Produktionszentren einer Fabrik der Zukunft, autonome Kommunikationszentren auf Planeten wie etwa dem Mars, etc. – und jegliches menschliche Eingreifen könnte sich für ihre „Gesundheit“, ihre Integrität und Funktionalität, als störend herausstellen. Sie könnte entweder nicht mehr funktionieren oder schlimmstenfalls versuchen, ihre Funktionalität dadurch zu erhalten, dass sie menschliche Eingriffe zu verhindern oder abzuwehren versucht.

Nun, von solchen Bewusstheits-Szenarien sind wir vermutlich noch viele Jahre entfernt, und wir werden auch solche Worst Case-Szenarien hoffentlich nie erleben.

Also zurück ins Jahr 2016, zurück zu Microsofts Teenie-Chat-AI namens „Tay“. Hier wird vermutlich noch nicht von einer echten künstlichen Intelligenz auszugehen sein. Was bereits heute in manchen geschlossenen Forschungszentren möglich ist, wissen wir nicht. Wir wissen, dass in der AI-Entwicklung bereits heute die AI-Systeme sich längst nicht mehr nur durch menschliche Programmierer weiterentwickeln. Ihre Entwicklung läuft vielfach auch durch ihnen ermöglichte selbstständiges Lernen und Beobachtung menshclichen Handelns, menschlicher Kommunikation und Medien. Und es ist klar, die Tage werden kommen, an denen die ersten komplexeren selbstreflektiven künstlichen „Wesenheiten“ an die Öffentlichkeit gebracht werden.

Dafür ist es wichtig, zu wissen, wie wir in diese eine menschliche Werte-Ethik integrieren. Die ersten und wichtigsten Maßnahmen hierfür sind die Schaffung einer gemeinsamen menschlichen Ethik und Werte-Akzeptanz. Was „Tay“ zeigte ist, dass menschliches Verhalten stark Einflüsse haben kann auf die Ergebnisse, selbst schon bei einer einfachen Chat-AI.

Wir Menschen sind die Vorbilder für das, was wir erschaffen.

Testimonials

„Ihr Vortrag ist sehr gut angekommen. Ein paar Teilnehmer haben sogar separat schriftlich angemerkt, dass Sie Ihren Vortrag SPITZE fanden.“
Nadine Nobis, VICO Research & Consulting GmbH, Veranstalter ToGather Conference 10.02.2011

Events

4.4.2019 - Hamburger Open Trendtalk (87) - Zukunft der Mobilität – Teil 2: Städte und EU, Smart Mobility, Bürger und WirtschaftDas Afterwork-Event!

Trendtalk® - seit Januar 2012 monatlich immer am ersten Donnerstag des Monats.
Talk, Experten-Diskussion, Networking.
2019er Termine: 4.4., 2.5., 6.6., 4.7., 1.8., 5.9., 10.10., 7.11., 5.12. - Jetzt vormerken