KI hat große Chancen aber noch viel größere Risiken.
Wenn wir „Glück“ haben nimmt es uns „nur“ unsere Jobs und im schlimmsten Fall unser Leben.
Das sage nicht nur ich sondern viele Experten auf dem Gebiet (siehe Quellen).
Das Problem ist: Selbst wenn wir aufhören wollten an KI zu entwickeln, wir können es eigentlich nicht.
Denn wenn wir es nicht machen, werden es Länder wie China oder Russland tun.
Quellen:
Ich verstehe nicht, was du uns damit sagen willst. Hast du Angst vor KI?
Generell kann jede Technologie immer sowohl für gute Sachen eingesetzt werden oder für schlechtes. Mit einer Nadel kann man wärmende Kleidung schneller herstellen aber man kann die Nadel auch als Waffe verwenden. Elektrischer Strom kann für Computerspiele eingesetzt werden oder um andere Leute auf einem elektrischen Stuhl zu töten…
Genauso kann auch KI für uns gut sein indem sie uns einen schnelleren Weg über die Strassen aufzeigt oder ärztliche Behandlungen vorschlägt. Aber KI kann auch schlecht sein wenn sie uns schaden wie z.B. keine Kredite gewährt oder als Soldatimitat sogar auf uns schießt.
Ich verstehe also nicht, warum (wenn du wie du schon richtig sagst, die Forschung an KI nicht mehr zurückgenommen werden kann) die KI nicht auch als gleichwertige Chance gesehen wird. Ich wiederspreche dir also dahingehend, dass die KI ein größeres Risiko ist, als sie Chancen für uns darstellt. Wie bei jeder Technologie ist das Risiko genau gleich wie die Chance, die sie bietet. Warum lässt du dir Angst machen indem du fast ausschließlich nur auf die möglichen negativen Seiten dieser Entwicklung schaust?
Was unterscheidet eine KI von einem Menschen? Auch Menschen können gutes oder schlechtes tun. Vorallem jeder Mensch hat in sich das Potential beliebig andere Menschen zu töten. Ja, jeder (normale) Mensch ist absolut in der Lage in eine Stadt zu fahren und einem anderem Menschen ein Messer in den Körper zu stoßen (oder beliebig anders zu töten). Du solltest dich also ehr Fragen: Warum passiert das nicht ständig und überall, wenn wir als Menschen doch so extrem gefährlich sind?
Meine Antwort darauf ist relativ einfach: Weil wir wie jedes andere Lebewesen einen Überlebenswillen haben und evolutionär gelernt haben wie wir uns vor solchen Angriffen schützen können. Diese Fähigkeit macht uns einerseits sicher, aber gleichzeitig auch gefährlich. Wir sind also „mächtig“, so wie eine KI es in Zukunft sein kann.
Warum schließt du aus, dass KI mit uns Menschen nicht auch friedlich koexistieren kann, selbst wenn sie potentiell tödlich ist? Denkst du KIs sind deutlich mächtiger als wir es sind, also dass wir uns nicht schützen könnten? In wenigstens einer Sache sind wir der KI aktuell noch überlegen: Wir können ihr den Stecker ziehen. Die KI ist also darauf angewiesen, dass es Menschen gibt, die die Server warten, die für Strom sorgen usw. Die KI ist also zumindest noch auf Kooperation mit uns angewiesen. Und solange das bleibt, gibt es keinen Grund warum die KI nicht ein Teil unserer Gesellschaft werden kann.
Fiction schon immer auf dem Schirm. Die drei Bildbeispiele hatten es zum Thema innerhalb der Filmgeschichte. Metropolis - Blade Runner und Terminator. Alle haben sie das Thema auf ihre Weise verarbeitet. Am interessantesten ist natürlich Blade Runner mit seine künstlichen Kreaturen (alles künstliche Wesen mit Ablaufszeit versehen, egal ob Schlange oder Menschenmodelle)
Was die LLM Modelle betrifft, ist es in aller Munde und die NVIDIA Aktie auf ihrem neuem Hoch nach dem DeepSeek Shock. Meiner Meinung nach überbewertet. Nicht die Technologie, die Aktie.
Meiner Meinung nach lässt sich auf theoretischer Basis im Voraus kaum genau sagen, welche Maßnahmen angemessen und effektiv wären, um die Sicherheit von KI Systemen zu gewährleisten. Das wird die Zeit zeigen. Zunächst müssen die konkreten Probleme ermittelt werden, bevor überlegt werden kann, ob und was man dagegen tun kann.
Ich finde, es gibt sehr viele Autoren und bekannte Persönlichkeiten, die vor der KI in einer sehr frühen Phase auf überzogene Art und Weise warnen. Teilweise werden bereits jetzt sehr extreme und umfassende Maßnahmen gefordert, die zum aktuellen Zeitpunkt überhaupt nicht angemessen sind. Was manchen vorschwebt, ist eine Regulierung, die zu einem noch übergriffigeren Staat führt als jetzt schon. Die Forderungen sind teilweise absurd und gehen so weit, den technologischen Fortschritt bei Bedarf zu bremsen oder zu pausieren, bis angeblich Lösungen für die Gefahren gefunden wurden. Planwirtschaft im neuen Gewand.
Dieses weit verbreitete „Wir müssen alles von oben noch umfassender überwachen und steuern“-Denken vieler KI-Kritiker missfällt mir sehr. Ich ziehe eine Terminator-Apokalypse einer Unterwerfung unter ein übergriffiges, inkompetentes System, das schwachsinnige Thesen für die Zukunft anwendet, eindeutig vor.
..ich melde mich einmal zu Wort, da ich der Meinung bin, dass KI vieles erleichtert, also durchaus auch positve Seiten hat.
Allerdings ist es schon krass, dass man jetzt KEINEM VIDEO, oder ANRUF mehr uneingeschränkt vertrauen kann !!! Da bin ich schon immer etwas skeptischer gewesen.
Ein Grund, warum ich in der Vergangenheit keine whatsapp Sprachnachrichten verschickt habe. Nun wirkt vieles/alles täuschend echt !
Etwas zum nachdenken.
Zu dem einen TITEL: Auslöschung der Menschheit, da ist der Mensch von Natur aus schon immer selber fleißig gewesen.
Aus einem zynischen Blickwinkel betrachtet, die Erde wäre sehr dankbar, wenn der Mensch verschwunden ist ! Soweit mir bekannt, keine Lebensform hat in so kurzer Zeit ihrer Existenz, der Welt so zugesetzt wie der EGOISTISCHE Mensch. Ein RESET wäre für die Erholung des Planeten hilfreich. Ob mit Hilfe von KI, oder ohne, die menschliche Natur ist unbelehrbar, zeigt sich immer wieder. Ich denke 100-200 Jahre nach dem Mensch wäre nicht mehr viel von seinen Machenschaften zu sehen…
Kann dem Gedankengang folgen, dennoch habe ich eine positivere Haltung gegenüber der Menschheit. Denke an all die Bemühungen ideeler Natur. Ideen und Handlungen die eingebracht wurden und werden, um uns allen einen Schritt voran zu bringen. Natürlich haben wir ein Ressourcen Problem, in jeglicher Hinsicht. Es gibt deshalb auch Schattenseiten und Schicksale die sehr sehr unfair sind. Dennoch vertrete ich die Haltung sein Leben so zu gestalten, um uns als Ganzes voranzutreiben. Heisst nicht dass dies alles einfach ist, aber zumindest sollte man es versuchen. Alleine die Kinder grosszuziehen und ihnen Werte mitgeben, die ausserhalb des eigenen Egoismus angesiedelt sind.
Was die KI betrifft werden neue Spielregeln gesetzt. Diese können Arbeitsplätze bedrohen aber auch andere generieren. Insgesamt eine gesellschaftliche Neuerung. Studierende ohne KI sind als Beispiel nicht mehr wegzudenken. Sinnvoll oder nicht ist nicht die Frage. Eher was lernen wir dabei neues.
Ganz ehrlich: Jede Information, die du irgendwie bekommst musst du immer für dich prüfen, ob du ihr glaubst oder eben nicht glaubst. Selbst meinem Text. Das war auch schon vor dem Internet, Sprachnachrichten oder Textnachrichten so.
Warum vertraust du also einem geschriebenem Text mehr als einer Sprachnachricht? Einen Text kann man deutlich einfacher fälschen als eine Sprachnachricht weil Sprache mehr Metadaten beinhaltet wie Tonhöhe, Klangverzerrung, Sprechgeschwindigkeit usw. Aus diesen Metadaten können Menschen relativ gut erkennen, wer diese Sprachnachricht gesendet hat. Bei Text ging das früher mit dem Schriftbild auch, wobei dies deutlich schwieriger war. Vereinheitlichte Buchstaben von Computern erleichtern zwar die Lesbarkeit, reduzieren aber die individuellen Metadaten: Aus einem Computertext bzw. Schreibmaschinentext kann man eben nicht mehr so einfach ablesen, wer den Text verfasst hat. Da wird es komplizierter weil man dann nicht mehr die Buchstaben analysieren kann sondern den Schreibstiel analysieren muss, also den Inhalt der Botschaft…
All diese Metadatenanalysen machen Menschen ganz automatisch ohne dass es ihnen bewusst werden muss um ihren Gegenüber identifizieren zu können. Denn daraus kann man einfach ableiten, ob man der Information vertrauen kann oder ob man ihr skeptisch gegenübertreten muss. Einer Nachricht der Eltern vertrauen wir naturgemäß blind während die Nachricht eines Fremden immer sehr kritisch betrachtet werden muss.
Das ist relativ einfach zu erklären: Auf die Eltern ist man angewiesen, dass sie den Beginn des eigenen Lebens mitgestalten. Ohne Mithilfe der Eltern würde ein Kind nicht überlebensfähig sein, z.B. um seine nötige Nahrung zu bekommen, die die Eltern bereitstellen müssen. Wenn man seinen Eltern nicht vertrauen kann, dann ist die Überlebenschance sowiso absolut gering. Die Eltern haben also mit der Aufzucht der Kinder bewiesen, dass sie den Kindern ausreichend freundlich gesinnt sind, also mehr gutes dem Kind geben als sie schaden. Das kann sich natürlich mit der Zeit ändern, wenn das Kind auf eigenen Beinen steht, aber es ist eben ein Vertrauensvorschuss, den die Eltern mit sehr viel bösen willen erst zerstören müssten.
Anders sieht es aber aus, wenn es darum geht, dass fremde Menschen mit einem interagieren. Egal wer das ist, ob es eine KI ist, ein Tier oder beliebig andere Menschen, immer gibt es das Potential, dass diese anderen Menschen einem nichts gutes wollen. Fremde Menschen müssen sich also immer ihren Respect verdienen, bevor man ihnen traut.
Beispiel: Diebe wollen einen bestehlen, was bedeutet das man einen Verlust erleidet und somit geringere Überlebenschancen hat (während die Überlebenschancen des erfolgreichen Diebes steigen.) Scammer sind genauso: Sie wollen nur unser Geld haben, was genauso ein Verlust für uns ist aber die Gegenseite besser stellt.
Ich spreche hier gerne von Machtkämpfen: Jedem Individuum (und generell jedem beliebigen anderem Objekt) kann ein Machtwert zugesprochen werden (so wie in der Physik die Energie). Jede beliebige Interaktion des Individuums mit anderen Individuen tauscht also immer auch Macht zwischen ihnen aus. Und dabei kann es nur 2 verschiedene Fälle geben: Entweder es geht Macht von einem Individuum auf das Anderes über, dann ist das zwar gut für das gestärkte Individuum aber schlecht für das verlierende Individuum. Es ist also wie ein Angriff auf das geschwächte Individuum zu sehen und vor solchen Machtverlusten müssen sich Lebewesen schützen, denn sobald sie ihre komplette Macht „verbraucht“ haben, sterben sie ab.
Die andere Möglichkeit ist ein gleichwertiger Machtausausch. Hier verlieren beide Machtwerte, bekommen aber gleichwertige Machtwerte wieder zurück. Die Gesamtmacht ändert sich also nicht und keines der Individuen hat erstmal einen Nachteil von so einem Tausch. Das ist der Fall der freiwilligen Kooperation oder Handel, die zur Arbeitsteilung und somit zur Effizienzsteigerungen führen.
Mit dieser Grundlage kannst du vielleicht verstehen, warum man bei jeder Kommunikation (was ja genau eine Interaktion zwischen den Individuen ist) immer aufpassen muss, ob der gegenüber jetzt kooperieren will oder doch angreift? Dieses Prinzip galt also auch schon vor dem Internet als Kommunikationskanal und auch vor KIs, die vielleicht mit uns kooperieren wollen oder uns doch angreifen… Die Menschen werden lernen mit dieser Gefahr umgehen zu können, sio wie sie es bei beliebigen anderen Menschen tun.
Die Menschheit haben sich evolutionär gegen alle Bedrohungen der Erde durchgesetzt und so gut wie alle Machtkämpfe gewonnen. Das ist eine enorme Leistung der Menschen!!! Und da ich davon ausgehe, dass du ein Teil der Menschheit bist: Wie kommst du auf den Gedanken, dass die Welt vom Menschen so zugesetzt wurde? Glaubst du wirklich der Erde würde es besser gehen, wenn die Wölfe oder Löwen wieder „das Sagen“ hätten? Klar gibt es „schwarze Schafe“ unter den Menschen, Wölfe würden aber genauso nur andere Tiere töten um selber überleben zu können. Und sie würden es tun, egal wie moralisch du das findest.
Außerdem sehe ich, dass du hier den Menschen auf ein negatives Adjektiv reduzierst: EGOISTISCH. Warum lenkst du deinen Fokus der Menschheit ausschließlich auf das negative und blendest damit alle Errungenschaften der Menschheit aus? Wenn deine Eingangssicht auf dieses Thema schon so negativ ist, dann ist doch klar, dass da keine guten weiteren Gedanken mehr folgen können.
Deswegen mal die Frage: Was würde sich an der Situation der Erde wirklich verbessern, wenn du ein RESET durchführen könntest? Ein Reset auf was? Auf die Zeit der Entstehung der Erde als Lavaball, komplett ohne Objekte, die wir als Lebewesen bezeichnen würden? Das finden viele langweilig, aber solche Objekte haben wir zuhauf im Sonnensystem: Den Mond, der Mars, die Venus sogar mit Lava… Zurücksetzen Auf die Zeit der großen Oxidation, wo die Erde durch die ersten Pflanzen mit toxischem Sauerstoff geflutet wurde, was damals fast alle z.B. Schwefelbasierte Lebewesen getötet hat (und es trotzdem Leben gab, das weitergemacht hat und sich an den neuen Sauerstoff angepasst hat)? Zurücksetzen auf die Zeit der Dinosaurier? Was genau war zu dieser Zeit besser als heute?
Egal wohin du die Zeit zurückdrehen würdest, die Evolution würde früher oder später wieder eine Rasse hervorbringen, die es schafft mächtiger als alle anderen Lebewesen zu werden und sich somit überall zu verbreiten. Die Menschen sind kein Virus der Erde, sie sind die Folge der immer fortlaufenden Evolution, die auch innerhalb der Menschheit mit technologischem Fortschritt voranschreitet.
Die Menschen haben es geschafft gegen die unbarmherzigen Wetterphänomene (Regen, Schnee, Sonnenhitze, Sturm,…) Schutzhäuser zu bauen, die Menschen haben es geschafft, gegen Gifte oder Vieren Gegenmittel zu erfinden. Die Menschen haben es geschafft ein Netzwerk zu erreichten mit dem wir so gut wie jeden beliebigen anderen Menschen der Erde erreichen können um mit ihm zu kommunizieren. Das ist wie ein globales Gehirn mit Menschen als Neuronen, die sich vernetzen. Und mit dieser Gehirnleistung aller Menschen haben wir es geschafft, künstliche Intelligente Wesen zu erschaffen (KI).
Die Menschen können sich lieben und kooperieren. Warum genau ist das einzige Adjektiv, das dir zu der Menschheit einfällt: Egoistisch?
Auch hier muss ich dir widersprechen. Selbst wenn die Menschen von heute auf morgen auf ominöse Weise verschwinden würden, der Nachlass der Menschen wird weiter zu sehen sein. Einerseits durch die monumentalen Bauten: Die Pyramiden, die vielen Städte oder andere „künstliche“ Gebilde wie Staudämme. Die Pyramiden stehen schon seid mehr als 2000 Jahre und zeugen von der Erfindungskraft der Menschen. Auch die Dinosaurier haben immernoch Hinterlassenschaften, die wir finden können um auf ihre Existenz schließen zu können.
Andererseits, wenn die KI uns auslöscht, dann werden wir in der KI weiterleben. So wie die Affen als unsere Vorfahren gelten, so wird die Menschheit für immer die Vorfahren bzw. Erschaffer der KI sein. Also selbst wenn die KI uns auslöschen kann, also deutlich mächtiger wird, als es die Menschen jetzt schon sind, selbst dann werden wir in der KI als Historie weiterleben. Und die KI macht als neue mächtigste Spezies weiter und wird evolutionär genau den Weg einschlagen, den die Menschen beschritten haben.
Ich frage mich wirklich, warum so viele Menschen hier in Deutschland so absolut pessimistisch auf die KI, Technologie oder alleine schon das Menschendasein sehen.
Das ist ein guter Punkt: Diese Ressourcenknappheit wird immer bestehen. Klar kann man jetzt hingehen und kommunistisch jedem seine Ressourcen zuteilen. Das ist aber Planwirtschaft und erfordert eine Macht, die diese Pläne erstellt, umsetzt und überwachen kann. Generell natürlich vorstellbar, hat aber wenigstens zwei Hacken: Einerseits kann die Planungsmacht nie 100% voraussagen, was die Zukunft bringt und somit haben die Pläne immer eine Abweichung zur Wirklichkeit. Andererseits ist so eine Planung ein Monopol und wird somit früher oder später durch Korruption ausgenutzt. Die Evolution ist aber deutlich effizienter in der Ressourcenverteilung weil sich viele Untereinheiten selber um das eigene Überleben kümmern können. Ich meine damit nicht 100% Dezentral, weil das bedeuten würde, dass jeder nur für sich alleine kämpft und es keine Kooperation geben würde. Die Evolution findet immer ein Effizienzoptimum in der Mitte zwischen Monopol und Dezentralität.
Das Problem der Ressourcenknappheit kann physikalisch nicht gelöst werden bzw. jede Lösungen widersprechen dem evolutionärem Druck der Machtmaximierung. Das bedeutet für jede Art von Leben: Entweder irgendeine Ressource, die sie zum Leben benötigt, wird knapp oder dieses Lebewesen verzichtet freiwillig auf seine Machtmaximierung (also nimmt sich kein Anspruch auf die Ressource).
Wenn die Lebewesen also freiwillig auf die Ressource verzichten, dann stellen sie sich schlechter als sie es müssten. Bedeutet aber, dass andere Lebewesen, die sich nicht so beschränken, über die Zeit stärker und mächtiger werden. Umso länger das geht, desto wahrscheinlicher können also die anderen Lebewesen einen erfolgreichen Machtkampf gegen die verzichtenden Lebewesen führen. Die Mächtigeren Lebewesen setzen sich also durch und die verzichtenden Lebewesen werden mit der Zeit verschwinden.
Dieser evolutionäre Druck ist vielleicht das, was @BIT-CHANCE-2025 als „Egoistisch“ bezeichnet hat, aber es ist eine fundamentale Folge aus der Evolution. Wer diesem Druck nachgibt, der wird mit der Zeit untergehen wie bis jetzt jedes Kommunistische oder Sozialistische System.
Aber der evolutionäre Druck zeigt doch genauso eindeutig, dass über die Zeit das Leben vielfältiger und besser und einfacher wird (zumindest für die Menschen, die sich der Evolution bzw. dem Technologischem Fortschritt anschließen). Ein Bauer ernährt heute 150 andere Menschen, im Mittelalter arbeiteten 90% aller Menschen auf dem Feld…
Der Evolutionäre Druck ist nicht für jeden gut, aber für die meisten Menschen. Der Evolutionäre Druck (auch gerne Kapitalismus genannt) hat als Ressourcenverteilungssystem mehr Menschen aus der Armut geholt als das die Verteilungssysteme des Sozialismus getan haben, zumindest langfristig. Kurzfristig sieht es da leider anders aus weswegen es ja den enormen Zuspruch für sozialistische Systeme gibt.
Die KI ist die aktuelle spitze der Forschung und zeigt uns deutlich auf, wie wichtig die Dezentralisierung von zu sehr zentralisierten Systemen ist. Genauso wie die Zentralisierung und Arbeitsteilung für zu sehr dezentralisierte Systeme wichtig ist. Beide entgegengesetzten Kräfte werden ein System immer wieder zurück zur Mitte ziehen weil dort das Optimum liegt, wo das System am meisten Macht bekommt.
M.M.n. gibt es bereits eine absehbare Maßnahme. Ich halte öffentliche KIs für äußerst wichtig. Niemand weiß, wofür proprietäre KIs tatsächlich eingesetzt werden. Deswegen bevorzuge ich KIs auf Open Source Basis. Nur mit ihnen können wir uns gegen die Hersteller und Inhaber proprietärer KIs schützen.
wow, vielen Dank für deine ausführlichen und sehr gut erklärten Sichtweisen. Interessante Gedanken.
Mir ist vollkommen bewusst, dass ich auch zum Klub der Menschen gehöre. ;)
Ich bin schon ein paar Tage dabei und sehe ständige Veränderungen(positive und negative). Sicherlich ein Generationen Ding, bin ein 80er Jahre Kind.
Von schlechten Nachrichten aus aller Welt, aber gerade auch hier im Land versuche ich mich so gut es geht abzuschotten.
Was mir; oft aus Sicht „eines Beobachters“ immer mehr auffällt, in meinem direkten Umfeld wird vieles immer rücksichtsloser und absurder. Ich bin sehr oft in meinem Kopf und lenke mich zu wenig ab. Da kann ich dann machmal nicht so gut drüber hinwegsehen. Da räume ich gleich mal ein, dass ich Tendenzen zu Hochsensibilätät habe, so ehrlich muss ich da sein. Mich stört schnell, was andere nicht einmal bemerken. Ist ja mein Problem, nicht das der anderen ! Trotzdem gibt es Regeln, an die man sich halten sollte um andere nicht zu gefährden, oder etwas harloser, zu nerven.
Ich glaube wir schweifen vom eigentlichen Thema ab ;).
Ich wünsche euch allen ein schönes Wochenende.
Ich würde es relativ entspannt sehen. KI wird den Fachkräftemangel lösen und der menschliche Kontakt wird nie zu ersetzen sein. Eventuell ist die aktuelle Entwicklung der KI der Auslöser für die Besinnung zu dem, was uns ausgemacht hat/ausmacht.
So ein Unsinn.
Durch die Existenz von keiner dieser Sachen steigt dir Gefahr, da es viel effektivere Methoden gibt jemanden anzugreifen.
Aber KI ist gefährlicher als eine Nadel oder irgendein Elektrischer Stuhl, weil sie effektiver ist als alles was es bis jetzt gab um eine Diktatur durchsetzen oder einem Genozid zu begehen.
Chancen sind nicht immer gleich 50%
Einen Menschen muss man zum kämpfen motivieren und dabei immer bedenken das egal was man bezahlt, es ihm mcihts bringt wenn er dabei stirbt.
Bei einer KI gelten ganz andere Regeln.
Das habe ich so nicht gesagt.
Es sit möglich, darum ja dieser Thread
Ich habe hier nur Beispiele von technologischen Erfindungen gebracht und aufgezeigt, dass sie sowohl für gutes als auch schlechtes gebraucht werden können. Das gilt übrigens für alle technologischen Erfindungen weil sie die Menschen mächtiger machen.
Also egal welche Technologie du dir anschaust, jede hat ihre Risiken und ihre Chancen. Jede Technologie hat also Nachteile, wenigstens für diejenigen, die sie nicht einsetzen. Jede Technologie hat aber zwingend auch Vorteile, sonst würden wir sie nicht einsetzen.
Ich widerspreche dir also wieder: Durch die Existenz dieser Sachen steigt die Gefahr, die von Menschen ausgeht, egal ob es effektivere Methoden gibt. Frag mal die Leute, die von einem Messer angegriffen wurden, warum sie sich denn so haben, eine Atombombe wäre doch viel tödlicher gewesen…
Und woher willst du das wissen? Mit welcher Information kommst du zu diesem Schluss oder ist das ehr ein Bauchgefühl?
Klar kann man mathematisch für einige Systeme Chancen ausrechnen, die nicht einfach gleichverteilt sind. Solange du aber relativ wenig Wissen über ein System hast ist die Annahme einer Gleichverteilung aber immer am Erfolgversprechendsten, gerade weil man keinen der Optionen einen künstlichen bzw. ideologischen Bias aufzwingt sondern jede Option als Gleichberechtigt durchdenkt.
Und wenn wir eine Technologie dauraufhin untersuchen, ob es ehr hilft oder ehr schadet, ob es gut ist oder schlecht, dann haben wir nunmal zwei Optionen, die ersteinmal gleichberechtigt nebeneinander stehen. Wenn aber nur die Gefahren gesehen werden und aus Angst die Technologie dann komplett verworfen wird, dann verwehrt man sich eben auch den Chancen, die man dann nicht bekommt. Andere, die die Risiken eingehen könnten also mit der Zeit deutlich besser gestellt werden (oder eben wirklich scheitern).
Schau dir doch einmal die 4 Fälle an:
Das Problem ist aber wie immer: Keiner kann sagen, welche Technologie jetzt die Menschen voran bringt (Technologischer Fortschritt) und welche Technologie zu Rückschritten führt. Da das Aussagen über die Zukunft sind, kann das nur die Zeit sagen. Und ob es gut oder schlecht war erkennen wir nicht dadurch, dass die Technologie gut oder schlecht ist (wie gesagt, jede Technologie kann beides) sondern das erkennen wir daran, wie viel mächtiger oder ärmer die Menschen mit der Zeit werden, die die Technologie einsetzen gegenüber den Menschen, die sie nicht einsetzen.
Welche Regeln glaubst du gelten denn für eine KI genau?
Einem Flugzeug bringt es auch nichts, wenn es abstürzt. Ein Flugzeug ist danach genauso tot wie wenn ein Mensch stirbt. Beide Objekte zerlegen sich durch den Tot in ihre Einzelteile und können nicht mehr einfach wieder zusammengesetzt werden.
Aus der Sicht eines Menschen kannst du natürlich ein neues Flugzeug bauen, aber es wird immer ein anderes Flugzeug sein als das, welches abgestürzt ist. Genauso kannst du eine KI in den Tot schicken (vielleicht war das Flugzeug der Körper der KI), aber eine neue KI wird eben nicht genau wie die alte KI sein.
Deine Worte zeigen, dass du hier hier deine Perspektive einbringst, aber nicht die Perspektive anderer Objekte. Aber nur weil du diese Perspektiven nicht mit einbringst bedeutet es nicht, dass es nicht noch andere Perspektiven gibt. Menschen können sich doch auch in andere Menschen hineinversetzen und versuchen zu überlegen, wie die anderen Menschen handeln um daraus abzuleiten wie sie reagieren würden. Warum sollte diese Reaktionsfähigkeit nicht auch von anderen Objekten ausgehen? Gerade KIs (und viele Tiere) zeigen doch, dass sie unberechenbar sein können, genau wie Menschen. Genau deswegen sollten wir auch versuchen KIs zu verstehen, damit wir sie nicht einfach nur als Bedrohung sehen sondern sie als das erkennen, was sie uns wirklich bringen.
Also Klar, wenn eine KI auf mich schießt, dann sind das Resultate, die mir nicht gefallen. Aber aktuell sehe ich genau das Gegenteil: Egal wo man KI einsetze, überall sind sie ersteinmal für die Menschen da und helfen mir persönlich (und Anderen).
Vielleicht mal eine weitere Erklärung, die viele Menschen falsch verstehen bezüglich Digitalisierung:
Jedes halbwegs komplexe Programm besteht immer wenigstens aus zwei wichtigen Aspekten: Dem (unveränderbaren) Algorithmus und der (veränderbaren) Datenbank.
Viele machen jetzt den Fehler, dass sie denken man muss nur den Algorithmus kopieren und man hätte ein Programm, dass genauso gut läuft wie vorher. Aber der Algorithmus alleine bringt eben nichts, wenn die Daten nicht stimmen, die der Algorithmus bearbeitet. Ein Algorithmus macht einfach gesagt keine Fehler (wenn man davon ausgehen kann, dass er gut programmiert ist). Daraus schließt man gerne, dass der Computer immer alles richtig macht, denn auf den Algorithmus kann man sich ja 100% verlassen.
Das stimmt zwar ersteinmal auch, aber das Problem ist eben die Datenqualität. Wenn die eingegebenen Daten eben zu 50% falsch sind, dann sind die ausgegebenen Ergebnisse eben zu vielleicht 75% fehlerhaft (Fehlerfortpflanzungsgesetz), selbst wenn das Programm zu 100% korrekt arbeitet.
Beispiele, die hier schief laufen sind z.B. Firmenmanagementsysteme wie SAP. Klar der Algorithmus ist schnell kopiert, aber ob die Daten der Firma zum Algorithmus passen, ob die Prozesse zur Firma passen,… All das macht eine Migration der Software absolut schwierig.
Und das gleicht trifft exakt auf eine KI zu. Ja das Programm (den Algorithmus) der KI kannst du sehr einfach kopieren, z.B. wie die simulierten Neuronen miteinander vernetzt sind und wie sie untereinander interagieren. Dieses Programm ist absolut nicht schwierig zu schreiben oder zu erstellen und meistens auch nur wenige Megabyte groß. Aber was eine KI wirklich ausmacht ist die Datenbank, spezieller die Gewichtung, wie stark jedes Neuron mit den anderen interagiert. Das ist ja der Lernprozess einer KI, diese Gewichtungen einzustellen und fein zu justieren. Und genau hier fließt sehr viel Rechenzeit in das Neuronale Netz und genau hier benötigst du enormen Speicherplatzbedarf.
Dazu kommt, dass eine KI sich ja gerade dadurch auszeichnet, dass sie ihre neuronalen Verbindungen nachjustieren kann. Die dynamisch veränderliche Datenbank einer KI ist also absolut essentiell für eine KI. Löschst oder zerstörst du die Datenbank der KI, dann tötest du die Persönlichkeit der KI (und alles, was sie bisher gelernt hat). Klar kannst du dann mit dem verbleibendem Programm eine neue KI erstellen, aber es wird immer eine andere KI werden weil sie für die Zukunft anders lernen wird. Weil sie ihre Neuronenverknüpfungen anders ausprägen wird. Genauso wie jeder andere Mensch einzigartig ist, so sind auch die KIs 100% immer einzigartig.
Jetzt kannst du sagen: Nagut, dann kopieren wir mit dem Programm auch die Datenbank bzw. stellen eine alte KI wieder her. Ja, dann kann man eine KI mit ihrem gesamten Wissensstand replizieren, sozusagen Klonen oder speziell zurücksetzen. Aber sobald man die KIs dann wieder betreibt und sie ihre neuronalen Netze anpassen (sie also lernen) werden diese KIs auseinanderlaufen. jede KI lernt eben ein bisschen anders und umso mehr sie lernen, desto verschiedener werden diese KIs werden. Und bei einem Zurücksetzen passiert ja wieder das gleiche wie oben beschrieben: Du löschst die gelernte Persönlichkeit um die KI mit einer anderen Persönlichkeit auszustatten.
Und Wenn du sagst, ja, dann frieren wir die Lernfunktion ein und lassen die neuronalen Vernetzungen sich nicht mehr verändern, dann nimmst du diesem Programm aber gleichzeitig auch die Fähigkeit zu lernen und sich zu entwicklen. Das kann man natürlich machen, aber man reduziert die KI damit zu einem einfachen Programm. Die Datenbank ist ja dann auch unveränderlich und kann quasi als Quellcode des Programms angesehen werden.
Wenn das Programm dann das tut, was es soll, dann kann das ja vielleicht funktionieren. Aber heutzutage funktioniert das nur, weil KIs in Rechenzentren betrieben werden. Wenn man einer KI aber einen eigenen Körper gibt wie ein Flugzeug zu steuern oder ein beliebiges anderes Fahrzeug zu übernehmen, dann muss die KI in der Lage sein ihre Motoren richtig anzusteuern. Da diese sich aber auch abnutzen oder verschleißen und damit über die Zeit anders reagieren als vielleicht vorausgeplant, muss die KI lernfähig sein um auf diese Feinjustierungen reagieren zu können. Eine autonome KI muss lernfähig bleiben um mit ihrer Umwelt klarzukommen, ansonsten bleibt sie wie ein Programm stehen, wenn sie auf eine beliebige unerwartete Begebenheit trifft, die sie nicht vorher gewusst (gelernt) hat. Nein, man benötigt ja gerade die Lernfunktion um mit unbekannten Problemen fertig zu werden weil man ein Programm nie auf alle möglichen zukünftigen (und unbekannten) Begebenheiten vorprogrammieren kann.
Das tut mir leid, ich möchte dir nichts unterstellen und das war blöd von mir formuliert. Ich hätte es lieber als aussage schreiben sollen anstatt als provozierende Frage.
So wie Volker Pispers schon sagte:
Herr Bürgermeister, können sie ausschließen, dass (…) passiert?
Nein, ich halte es für wahrscheinlicher, dass die Sonne explodiert aber ausschließen kann ich das natürlich nicht.
Und morgen steht in der Zeitung: Bürgermeister schließt (…) nicht aus.
Der Faktor, der bei KI vergessen wird: Die Anwendung von BCI mit KI zu KI-Augmentation ist viel effektiver, als das Gehirn mit lauter KIs als AGI zu rekreieren.
Daher sind KIs in der Hand von Konzernen und gerade dem Militär äußert gefährlich.
In der Unterstützung des Menschen jedoch unersetzlich, das wird nicht weniger werden.
Wenn jemand eine Nadel nimmt obwohl er auch ein Messer hätte nehmen können, dann hat sich das Risiko nicht erhöht.
Das Risiko steigt nur wenn eine noch effektivere Waffe dazu kommen würde.
Ich habe doch Quellen verlinkt:
Glaubst du das Flugzeuge ein Bewusstsein haben und dementsprechend handeln oder auf was willst du hinaus?
Ich denke wir reden hier aneinander vorbei. Wie definierst du das Risiko hier genau? Ist es das Risiko angegriffen zu werden?
Wenn es rein darum geht, ob man mit einem Messer oder einer Nadel angegriffen werden kann, dann ist die Chance (also die Wahrscheinlichkeit oder die Prozentzahl) für beide Szenarien ersteinmal gleich groß. Aber die Auswirkungen sind bei einem Messer vielleicht drastischer als die Auswirkung von einer Nadel, völlig unabhängig wie Wahrscheinlich so ein Angriff war.
Die Chance angegriffen zu werden, wenn mehr Waffen zur Auswahl stehen steigt aber mit der Auswahl. Wenn jemand die Auswahl hat mich mit einem Grashalm, einer Nadel oder ein Messer anzugreifen, wird er es mit einem Grashalm wohl nicht tun. Hat er aber die Auswahl zwischen einer Nadel, einem Messer oder eine Pistole, dann ist die Chance für einen Angriff wohl höher, einfach weil der Angreifer mehr Auswahl hat bzw. zufällig auch eine entsprechende Waffe dabei hat.
Ich persönlich denke, dass es im echtem Leben relativ wenig davon abhängt, welche Waffen für einen Angriff genau verwendet werden. Ob ein Angriff gestartet wird hängt größtenteils von 3 Faktoren ab:
Jedes Objekt muss also, wenn es mächtiger werden will bei einem Angriff immer als erstes überlegen, wie große die Erfolgsaussichten des Angriffes sind, was die Kosten des Angriffes sind und welche Gewinne erwartet werden.
Wenn die Kosten weit größer sind als der Gewinn, dann macht ein Angriff absolut kein Sinn für logisch denkende Lebewesen. Denn dann wird das Lebewesen garantiert ärmer durch den Angriff, egal wie gut die Chancen für einen Sieg sind. Jemand, der zum Schluss kommt, dass die Kosten dem Gewinn nicht rechtfertigen, der wird also auch nicht angreifen. (Ein Gewinn kann aber durchaus auch moralisch gemeint sein und somit Angriffe/Racheakte rechtfertigen, die andere Menschen nicht getätigt hätten).
Das gleiche gilt, wenn die Machtunterschiede zwischen Angreifer und Verteidiger zu groß sind. Ein Angriff, der zu 99,999% verloren wird macht nur dann halbwegs Sinn, wenn die kosten im normalen Machthaushalt sogut wie nicht auffallen. Beispiel Lotto Spielen: Wenn einem die Los-kosten nicht in die Armut stürzen, dann kann man sich die winzige Chance auf den Gewinn schon mal gönnen. Der Verlust ist dann relativ irrelevant.
Alles dazwischen ist aber eben Glückssache. Der Angriff kann dann gelingen und den Angreifer mächtiger werden lassen, muss aber nicht und kann den Angreifer sogar schwächen.
(Übrigens kann man jede Aktion als Interaktion zwischen zwei Objekten, die Macht oder Energie austauschen, als einen Angriff ansehen, beispielsweise wenn wir Gemüse ernten. Die Pflanze wird um die Frucht ärmer und wir werden um die Frucht reicher. Das können wir problemlos machen weil wir deutlich Mächtiger sind als die Pflanze und die Pflanze sich nicht gegen den Angriff wehren kann. Die Pflanze verliert diesen Machtkampf, ist aber deswegen generell nicht gleich tot.)
Mit diesem „Wissen“ zurück zu unserer Differenz:
Was ändert sich bei einem Angriff, wenn man die Nadel durch ein Messer austauscht? Der Angriff (bzw. der Angreifer) selber wird mächtiger. Das bedeutet die Chance auf einen erfolgreichen Angriff hat sich erhöht, vorausgesetzt die Verteidigung des Opfers ist gleichbleibend. Das Gleiche passiert, wenn eine noch mächtigere (effektivere) Waffe zum Einsatz kommt wie z.B. eine Pistole.
Irgendwie widersprichst du dir hier also selber, wenn du richtigerweise sagst, dass die Angriffschance steigt (aus Sicht des Opfers also das Risiko), wenn die Waffen effektiver werden, das aber nicht auch darauf beziehst, dass ein Messer effektiver ist als eine Nadel.
Was wir hier aber verglichen haben war die Erfolgschance von einem Angriff. Zusätzlich dazu habe ich ja oben erklärt, dass es auch die Abwägung gibt, überhaupt einen Angriff durchzuführen, egal wie erfolgreich dieser sein wird. Also ob die Kosten des Angriffes dem potentiellem Gewinn gegenüber sinnvoll sind. Umso mächtiger die Waffe wird, desto mehr kostet sie normalerweise auch. Eine Nadel kostet z.B. weniger Metall als ein Messer und benötigt weniger Kraft bei der Anwendung. Die Kosten der Nadel sind also geringer als bei einem Messer. Und das gleiche gilt für die Pistole oder die Atombombe. Die Pistole kostet sogar Munition während die Atombombe sich sogar ganz verbraucht/zersetzt.
Wenn man also die Kostenabwägung betrachtet, dann sinkt das Risiko also, mit einer mächtigeren Waffe angegriffen zu werden. Es muss schon eine gigantische Belohnung auf einem ausgesetzt werden, wenn der Gegner einem mit einer Atombombe angreift… Viel wahrscheinlicher sind da billigere Waffen, vor die man sich schützen sollte. Auch das ist also eine mögliche Risikoabwägung.
Wobei man hier fairerweise dazusagen muss, dass die Kosten zwischen Nadel und Messer schon relativ gering sind im Vergleich des normalen deutschen Machthaushalt, also Kosten für Essen, Wohnung usw. Da fällt es kaum auf, ob man eine Nadel oder ein Messer kauft, oder ob man eine Nadel mit sich herumschleppen muss oder ein Messer. Würden wir z.B. über Steine sprechen sähe das wieder ganz anders aus.
Punkt für dich 
Aber um alle meine langen Posts oben zusammenzufassen: Das ist eine explizite Negativauswahl. Klar sollte man diese Angriffsmöglichkeiten wissen und entsprechend vorbereitet sein, aber gleichzeitig sollte man eben auch die Chancen (Vorteile) der KI nicht aus den Augen verlieren.
Ich würde nicht sagen, dass alle Objekte ein Bewusstsein haben. Aber da die Angriffe auch von beliebigen Objekten ausgehen können halte ich es für falsch Objekte explizit auszuschließen, nur weil sie keine Menschen oder Tiere sind. Das schließt eben auch KI als Objekt mit ein.
Deswegen ist es meiner Meinung nach sinnvoll, die Welt auch einmal aus dem Blickwinkel von Objekten zu betrachten. Das bedeutet nicht, dass diese Objekte gleich Lebewesen sind oder ein eigenes Bewusstsein haben, aber sie können sich wie Lebewesen verhalten.
Bleiben wir doch einmal bei einem herkömmlichen Flugzeug. Das wird durch Piloten gesteuert, also Menschen. Aber trotzdem können wir die Sicht/Perspektive des Flugzeuges einnehmen und sagen, das Flugzeug fliegt von Berlin nach Frankfurt, das Flugzeug steigt in den Himmel, das Flugzeug landet,… als es macht das alles als ob es das völlig eigenständig macht.
Die Piloten verschmelzen also in dieser Sicht mit dem Flugzeug zu einem lebendem Objekt. Trotzdem wissen wir, dass das Flugzeug als Objekt quasi nur eine Blackbox (also ein abstraktes Objekt) ist und es aus verschiedenen Bestandteilen besteht, die nur im Zusammenspiel die Eigenschaften und Fähigkeiten des Flugzeuges bilden. Dazu gehören nicht nur die Piloten, die alleine auch nicht fliegen könnten. Dazu gehört eben das ganze Flugzeug mit Triebwerk, Tragflächen, Piloten usw.
Was ändert sich an dieser Sichtweise, also an „der Blackbox/dem Objekt“ Flugzeug, wenn die Piloten z.B. durch eine KI ausgetauscht werden? Ist das Flugzeug dann aufeinmal kein Lebewesen mehr? Kann man nicht auch behaupten, dass das Flugzeug dann der „Körper“ der KI ist? So wie ein Roboter der Körper der KI ist, die ihn steuert? Auf jedenfall gehört die KI dann zum Flugzeug, genauso wie die Piloten vorher zum Flugzeug gehört haben. Nur durch die KI kann das Flugzeug dann seine vollen Fähigkeiten entfalten, ohne KI steht es nur „langweilig“ auf dem Boden herum.
Wie gesagt, diese Überlegungen sind ehr so zu sehen, dass ich Analysiere, wie all diese unterschiedlichen Objekte miteinander interagieren und vorallem, wie die Beziehungen zwischen den Objekten sind, also ob es Unterobjekte bzw. Untergruppen sind oder welche größeren Objekte sie bilden.
Ob die Objekte ihre Fähigkeiten oder Interaktionen aus eigenem Antrieb machen, also z.B. ein Bewusstsein haben, oder ob ihre Handlungen nur durch physikalische Phänomene beschrieben werden, spielt dabei eigentlich keine große Rolle.
Aber diese Vergleiche zeigen mir, wozu eine KI wahrscheinlich fähig sein wird und was KI wahrscheinlich nicht bewerkstelligen kann. Die Spezies KI, also alle KIs zusammen könnten eine ernst zu nehmende Bedrohung zur Spezies Mensch werden. Soll heißen: Es wird nicht die eine KI geben, die alles beherrscht, es wird wie die Verteilung der Menschen viele verschiedene KIs geben, die alle ihre Spezialisierungen haben. Das bedeutet aber auch, dass auch die KIs untereinander nicht unbedingt immer freundlich gesonnen sein werden. Wie bei Menschen (oder beliebigen anderen Objekten) ist es eben manchmal sinnvoller zu kooperieren und manchmal sinnvoller anzugreifen um mächtiger zu werden. Das gilt auch explizit für die unterschiedlichen KI-Objekte.
Lebewesen haben durch ihre Evolution nur gelernt, das sie nach mehr Macht streben können und wie sie das am besten tun während andere Objekte wie Steine eben nur auf Zufall hoffen müssen. Trotzdem gilt die Machtsteigerung natürlich genauso auch für Steine: bekommen sie mehr Macht, dann können sie auch mehr Macht wieder abgeben bevor sie sich in ihre Einzelteile zersetzen. Aber auch Steine können ihre Macht durch Angriffe verlieren und sich zersetzen. Das ist z.B. bei den Sonnensystementstehungen zu beobachten: Der größte Stein nimmt gravitativ so gut wie alle anderen Steine in sich auf und wird zur Sonne. Er wird also immer mächtiger, egal ob die Sonne einen Willen dazu hatte oder ob das reine Physik war.
Technologie wird die Menschheit in ihrer Evolution weiter vorantreiben. Ob das letztendlich gut oder schlecht ist, hängt immer davon ab, was die Menschen daraus machen. Ein Beispiel: Bitcoin.
