Künstliche Intelligenz und Maschinenevolution

Kuens liche_In elligenz_Maschinene olu ion 1 Apl. P o . D . D . K. Saalbach Geos a egy and Geopoli ics Depa men 1 49069 Osnab ueck Küns liche In elligenz und Maschinene olu ion 02.01.2026 Zusammen assung Dieses A bei spapie bie e einen ku zen Übe blick übe Küns liche In elligenz (KI) und Maschinene olu ion. Maschinene olu ion is ein P ozess, bei dem Maschinen au onom neue Maschinen e scha en, die wiede um wei e e Maschinen e zeugen usw. Obwohl eine solche E olu ion de zei noch nich möglich is , wu den in e schiedenen Be eichen e hebliche Fo sch i e e ziel , die die Maschinen und die KI de olls ändigen Au onomie, dem Selbs le nen und de Anpassungs ähigkei ü ih e eigene Ve besse ung deu lich nähe b ingen. Diese En wicklungen beschleunigen den echnologischen Fo sch i , e schwe en abe zunehmend die menschliche Kon olle und Eing i e. Also ans a eingebunden zu bleiben, we den Menschen aus dem P ozess e d äng . Zu den Fo sch i en zählen das KI-ges ü z e Design on Compu e chips, das KI- ges ü z e Design ganze Compu e , selbs le nende und sich e besse nde KI-Sys eme in expe imen ellen Umgebungen sowie die au oma isie e Fe igung. Be ei s 2024 gene ie e das maschinelle Le np og amm AlphaChip übe menschliche Chip-Designs und en wickel e 2025 die neue I onwood TPU, die zu den schnells en Chips gehö . Auch China mach Fo sch i e mi de Chip-Design- KI QiMeng, die be ei s Chips en wickel ha , die mi komme ziellen Chips e gleichba sind. Die Fo schung im Be eich Chipdesign sch ei e asch o an. De e s e d eidimensionale monoli hische 3D- Chip zu Beschleunigung de KI wu de im Dezembe 2025 on Fo sche n de S an o d Uni e si y o ges ell . Das in Shanghai ansässige Un e nehmen CHIPX b ach e einen pho onischen Quan enchip au den Ma k , de bei einigen ma hema ischen Ope a ionen 1000-mal schnelle wa als he kömmliche Chips. Quil e s Physik-basie es Rein o cemen -Lea ning-KI-Sys em en wa im Rahmen des P ojek s Speed un in nu 38 S unden einen unk ions ähigen Linux-Compu e mi 843 Komponen en und üh e 98% de Pla zie ung, des Rou ings und de physikalischen Be echnungen au onom du ch. Neue Me hoden ü das T aining und Le nen on KI wu den 2025 o geschlagen: die Ve ne zung und de In o ma ionsaus ausch zwischen KI-Agen en im e s en Sch i und die o ene E olu ion on KI- Agen en im zwei en Sch i du ch die sogenann e Da win-Gödel-Maschine (DGM). Fo sche on Google DeepMind schlugen o , dass KI-Sys eme oneinande le nen und ih e E ah ungen pe manen aus auschen, sodass ih e En wicklung übe den Menschen hinaus unbeg enz is . Alle dings kann die Ve ne zung und de Wissensaus ausch zwischen KI-Sys emen du ch den Aus ausch ungenaue Da en das Risiko on Sys em ehle n und Fehl unk ionen e höhen. Im Jah 2025 wu de die Da win-Gödel- Maschine (DGM) en wickel , ein selbs le nendes KI-Sys em, das seinen Code i e a i modi izie und jede Ände ung anhand on Codie ungs-Benchma ks empi isch alidie . Dies e wies sich in Expe imen en als e ek i . Die zunehmende Ve b ei ung on Robo e n könn e den Weg zu ollau oma isie en Fe igungsp ozessen ebnen. Die menschliche Kon olle de KI kann du ch Beobach ung des Ou pu s und Ak ionen e olgen, läss sich abe um die Übe wachung de Chain-o -Though s (Gedankenke en) e gänzen, d.h. de in e nen KI-P o okolle, die die Denksch i e o enlegen. Die Fähigkei , die Denkp ozesse eine KI zu beobach en, wi d als Moni o abili y (Übe wachba kei ) bezeichne . Es gib Bedenken, dass neua ige KI-A chi ek u en die Moni o abili y e inge n könn en, o z de E kenn nis, dass es bei o sch i lichen KI-Modellen zu e s eck en Abweichungen komm , dem hidden misalignmen bzw. Scheming, bei denen KI-Modelle ih e Gedanken e be gen, z.B. um Belohnungen zu e hal en ode um Wiede holungsle nen (Rein o cemen Lea ning) zu e meiden. Ve schiedene Fo sche äuße n e ns e Bedenken hinsich lich eine po enziell unkon ollie en KI-E olu ion, z.B. du ch Selbs le nen. Die g öß e So ge bes eh da in, dass die Menschhei de zei nich aus eichend au diese Si ua ion o be ei e is und mögliche weise nich genügend Au sich gewäh leis en kann, d.h. die Si ua ion könn e auße Kon olle ge a en und deshalb solle eine s enge Go e nance mi en sp echenden Vo sch i en und Kon ollen einge üh we den. Kuens liche_In elligenz_Maschinene olu ion 2 Inhal 1 Maschinene olu ion ............................................................................................................................. 3 1.1 Einlei ung ....................................................................................................................................... 3 1.2 KI-ges ü z es Chipdesign ............................................................................................................... 3 1.3 KI-ges ü z es Compu e design ...................................................................................................... 4 1.4 Selbs le nende KI ........................................................................................................................... 5 1.5 Vollau oma isie e Fe igung ........................................................................................................ 6 1.6 Übe wachung und Kon olle de KI ............................................................................................... 7 2 Zusammen assung ................................................................................................................................ 7 3 Li e a u quellen .................................................................................................................................... 8 Kuens liche_In elligenz_Maschinene olu ion 3 1 Maschinene olu ion 1.1 Einlei ung Dieses A bei spapie bie e einen ku zen Übe blick übe Küns liche In elligenz (KI) und Maschinene olu ion. Maschinene olu ion kann als ein P ozess e s anden we den, bei dem Maschinen au onom neue Maschinen e scha en, die wiede um wei e e Maschinen e zeugen usw. Obwohl eine solche E olu ion de zei noch nich möglich is , wu den in e schiedenen Be eichen e hebliche Fo sch i e e ziel , die die Maschinen und die KI de olls ändigen Au onomie, dem Selbs le nen und de Anpassungs ähigkei ü ih e eigene Ve besse ung deu lich nähe b ingen. Diese En wicklungen beschleunigen den echnologischen Fo sch i , e schwe en abe zunehmend die menschliche Au sich und Eing i e zunehmend. Ans a eingebunden zu sein, we den Menschen aus dem P ozess e d äng . Zu den Fo sch i en zählen die KI-ges ü z e En wicklung on Compu e chips, die KI-ges ü z e En wicklung ganze Compu e , selbs le nende und sich selbs e besse nde KI-Agen en in expe imen ellen Umgebungen sowie die au oma isie e Fe igung. Die zen ale He aus o de ung ü die En wickle bes eh da in, die Ak i i ä en zu übe wachen und zu kon ollie en, um Sys em ehle , Fehl unk ionen und die Ve un einigung de KI-Sys eme mi ungenauen Da en zu e meiden. KI-Modelle kombinie en Le nalgo i hmen mi bis zu Millia den on Pa ame e n und g oßen T ainingsda ensä zen. Dies üh zu undu chsich igen Black-Box-Sys emen, dem P oblem de E klä ba kei , In e p e ie ba kei ode Vo he sagba kei (explainabili y, in e p e abili y o p edic abili y) 1 . Wie „e kenn “ eine Maschine ein Objek ? Manchmal is eine KI seh gu da in, Objek e ode Tie e zu iden i izie en, abe niemand kann e klä en, welche Pa ame e dabei e wende wu den, z.B. S uk u , Fa be, G öße, Mus e usw. Dadu ch is die KI bis zu einem gewissen G ad unbe echenba , da niemand sagen kann, un e welchen Bedingungen ein Fehle au e en kann. Dieses P oblem könn e sich in au onomen Sys emen noch e s ä ken. 1.2 KI-ges ü z es Chipdesign Schon heu e is das Design on Compu e chips au Compu e un e s ü zung angewiesen. Au g und de ex emen Komplexi ä kann das Design nich meh allein on Menschen du chge üh we den; es e o de Designso wa e (sogenann e Elec onic Design Au oma ion ode EDA-So wa e). Be ei s 2024 gene ie e das maschinelle Le np og amm AlphaChip Chip-Layou s mi übe menschlichem Design. So konn e beispielsweise die G öße de T illium Tenso P ocessing Uni (TPU) 2 im Ve gleich zu o he igen Chipgene a ion um 6,2% eduzie we den. Dadu ch e kü z sich die Designzei on Wochen ode soga Mona en au S unden. AlphaChip op imie die Chip-Planung du ch sch i weise Ve besse ung de Schal ungspla zie ung 3 . Ende 2025 ging die neue I onwood TPU in Be ieb und KI-ges ü z es Chipdesign nun einen de schnells en au dem Ma k be indlichen Chips he o geb ach ha 4 . Diese Chip wi d als Clus e mi 256 Chips und als Clus e mi 9.216 Chips angebo en 5 .Google en wickel Chips „ ü KI mi KI“ (“ o AI wi h AI”) 6 , wäh end ande e Un e nehmen en wede Chips ode KI-Sys eme he s ellen, wodu ch das KI-ges ü z e Design zu einem s a egischen Ma k o eil wi d. 1 gl. A ie a e al. 2020, p.83, Chaud y/Klein 2023 2 gl. Goldie e al. 2024 3 gl. Goldie/Mi hoseini 2024 4 gl. Ma ini 2025 5 gl. Spence 2025 6 Im Dezembe 2025 gal Google Gemini Ve sion 3.0 neben DeepSeek Ve sion 3.2 und Cha GPT Ve sion 5.2 als eines de üh enden KI-Modelle. Kuens liche_In elligenz_Maschinene olu ion 4 Pa allel dazu mach China im KI-We lau eben alls Fo sch i e, beispielsweise du ch DeepSeek, Manus, Kimi K2, Qwen, und die Chip-Design-KI QiMeng 7 . QiMeng bes eh aus d ei Schich en: einem domänenspezi ischen La ge P ocesso Chip Model (LPCM) ü neua ige A chi ek u en als un e s e Schich , einem Ha dwa e-Design-Agen en und einem So wa e- Design-Agen en ü au oma isie es Ha dwa e- und So wa e-Design in de mi le en Schich sowie e schiedenen Anwendungen ü das P ozesso -Chip-Design in de obe s en Schich 8 . Obwohl die En wickle on QiMeng noch Ve besse ungspo enzial sehen, konn e QiMeng be ei s die QiMeng-Compu e P ocessing Uni (CPU)- 1 en wickeln, die mi dem In el 486 aus den 1990e -Jah en e gleichba is , wäh end die zwei e Ve sion, QiMeng-CPU- 2, mi dem A m Co ex A53 aus den 2010e -Jah en e gleichba is , also Chipdesigns, die mi komme ziellen Chips e gleichba sind 9 . Das P oblem, dass KI ein undu chsich iges Black-Box-Sys em is , bes eh auch im Chipdesign und e schwe die U sachenanalyse bei Fehle n 10 . Die Fo schung im Be eich Chipdesign sch ei e asch o an. De e s e d eidimensionale 3D- Chip zu Beschleunigung de KI wu de im Dezembe 2025 on Fo sche n de S an o d Uni e si y o ges ell . Es handel sich um einen ech en 3D-Chip, de nich ein ach aus Schich en on 2D-Chips bes eh , sonde n ein monoli hisches Design au weis , das die d i e Dimension olls ändig nu z und dadu ch eine zwöl mal höhe e Leis ung bei ealen KI- Wo kloads sowie eine e besse e Ene giee izienz e ziel 11 . Das in Shanghai ansässige Un e nehmen CHIPX ha einen pho onischen Quan enchip o ges ell , de die En wicklung de KI, des kommenden 6G-Ne zes und de Quan encompu e beschleunigen kann. Bei einigen ma hema ischen Ope a ionen wa de Chip 1000-mal schnelle als he kömmliche Chips 12 . Die P oduk ion läu be ei s mi und 12.000 Wa e n p o Jah , wobei jede Wa e e wa 350 Chips en häl 13 . Lang is ig könn en pho onische Chips, die Lich ans elle on Elek onen zu In o ma ionsübe agung nu zen, he kömmliche Chips e se zen, da sie schnelle und ene giee izien e sind. China häl be ei s den g öß en globalen Ma k an eil in de Pho onikindus ie, die u sp ünglich on den USA und Eu opa dominie wu de 14 . 1.3 KI-ges ü z es Compu e design Das Un e nehmen Quil e p äsen ie e den e s en Compu e , dessen A chi ek u , Pla zie ung, Rou ing und Validie ung on eine physikbasie en KI du chge üh wu den. Diese KI wu de au physikalischen P inzipien ainie und schluss olge au diese G undlage, was sie on he kömmlichen g oßen Sp achmodellen un e scheide 15 . Quil e ‘s Physik-basie es Rein o cemen -Lea ning-KI-Sys em en wickel e im Rahmen des P ojek s Speed un einen unk ions ähigen Linux-Compu e mi 843 Komponen en au Basis eines NXP i.MX 8M Mini-Chips in nu 38 S unden ans a de 11 Wochen, die menschliche Ingenieu e ü diese Au gabe benö ig hä en. De Compu e konn e beim e s en Ve such e olg eich ges a e we den 16 . Die KI on Quil e übe nahm 98% de Pla zie ung, des Rou ings und de physikalischen Be echnungen au onom; de Ingenieu ungie e also haup sächlich als 7 gl. Zhang R. e al. 2025 8 gl. Zhang R. e al. 2025 9 gl. Zhang R. e al. 2025 10 gl. Chen 2025 11 gl. Sche le 2025 12 gl. Hi e lab 2025, Swayne 2025 13 gl. Swayne 2025 14 gl. EAC 2024 15 gl. Ta di 2025: Zu den on de KI e wende en Pa ame e n gehö en Signalin eg i ä sbedingungen, Lei e bahnimpedanz, Fluk ua ion und he mische Ausb ei ung on Ve ze ungen, S om ag ähigkei , elek omagne ische Aspek e und die physische He s ellba kei . 16 gl. Ta di 2025 Kuens liche_In elligenz_Maschinene olu ion 5 Supe iso . Das E gebnis des P ojek s wa , dass KI nun in de Lage is , Compu e zu en we en, die in ealen Umgebungen unk ionie en 17 . Soll e die KI die Kon olle übe nehmen, we den Chips und neue Compu e on Compu e n en wo en. Das heiß , de Mensch wü de dann nich meh wissen, wie die KI und de Compu e unk ionie en, was Übe wachung und Kon olle e heblich e schwe . Die En wicklung on Compu e n du ch ande e Compu e , die dann wiede um neue Compu e en we en, is de Beginn de Maschinene olu ion. 1.4 Selbs le nende KI KI- und Robo e le nen en wickeln sich in ähnliche Weise: Robo e le nen ha inzwischen S u en on 1022 bis 1024 FLOPS ( loa ing comma ope a ions; Glei kommaope a ionen) e eich , wäh end mode ne KI-Modelle ak uell übe 1024 FLOPS ü ih maschinelles Le nen au weisen 18 . Das T aining de KI is abhängig on quali a i hochwe igen, on Menschen e s ell en Da en, da ein T aining mi KI-gene ie en Da en allein bislang zu einem aschen Quali ä s e lus und dem Zusammenb uch des Modells (model collapse) üh . 2025 wu den neue Wege ü KI-T aining und -Le nen o geschlagen: die Ve ne zung und de In o ma ionsaus ausch zwischen KI-Agen en im e s en Sch i und die o ene E olu ion on KI-Agen en im zwei en Sch i du ch die sogenann e Da win Gödel Maschine (DGM) 19 . KI-Agen en sind So wa ep og amme, in denen g oße Sp achmodelle (LLMs) mi Schluss olge ungs- und En deckungs ähigkei zunehmend au onom zu E eichung o gegebene Ziele bei agen 20 . Die En wicklung sch ei e schnell on ein achen A bei sabläu en mi LLMs hin zu au onom agie enden KI-Agen en und Mul iagen ensys emen (MAS) o an, die zunehmend komplexe P ozesse selbs s ändig aus üh en können 21 . Fo sche on Google DeepMind s ell en es , dass in wissenscha lichen Be eichen wie Ma hema ik, P og ammie ung und Na u wissenscha en das aus menschlichen Da en gewonnene Wissen asch an seine G enzen s öß und die meis en hochwe igen Da enquellen be ei s ausgeschöp sind. Die o geschlagene Lösung bes eh da in, dass KI-Sys eme oneinande le nen und ih e E ah ungen pe manen aus auschen. 22 Mi de zunehmenden Ve b ei ung on KI-Agen en können diese deu lich meh oneinande le nen als on Menschen allein. DeepMind e wa e eine allgemeine küns liche In elligenz (A i icial Gene al In elligence AGI) um das Jah 2030 und geh da on aus, dass de en En wicklung übe den Menschen hinaus unbeg enz sein wi d. 23 De nächs e logische Sch i wa dahe , die Kommunika ion zwischen KI-Agen en und die In e ope abili ä on KI-Agen en und Mul iagen ensys emen du ch neue P o okolle zu e möglichen, die die Kommunika ion (wie beispielsweise Glibbe link ü die Kommunika ion übe Tele on), In e ak ionen (wie das neue o ene Agen 2Agen -P o okoll A2A on Mic oso 24 ) und das Le nen du ch Wissensaus ausch zwischen KI-Sys emen e leich e n 25 . Die Ve ne zung und de Wissensaus ausch zwischen KI-Sys emen e höhen jedoch das Risiko on Sys em ehle n und Fehl unk ionen de KI sowie die Belas ung du ch ungenaue Da en. 17 gl. Ta di 2025 18 gl. Beye e /Ki chne e al. 2ß25 19 gl. Zhang e al. 2025 20 gl. DSIT 2025 21 gl. La sen 2024 22 gl. Sil e /Su on 2025 23 gl. Shah e al. 2025. Ein wei e e Aspek is , dass KI-Sys eme in meh e en Kopien exis ie en und pa allel Wissen e we ben können, was ü Menschen nich möglich is , gl. Hin on 2025 24 gl. A enas/B ekelmans 2025 25 gl. Rosenbush 2025 Kuens liche_In elligenz_Maschinene olu ion 6 Google DeepMind ha den FACTS G ounding Benchma k en wickel , de die Fähigkei eines Modells bewe e , p äzise au sein in e nes Wissen zuzug ei en, die Suche als We kzeug zu In o ma ionsbescha ung zu nu zen und diese ko ek zu syn he isie en sowie F agen zu P omp s ak isch ko ek zu bean wo en 26 . In eine S udie om Dezembe 2025 e ziel e Gemini 3 P o mi einem FACTS-Sco e on 68,8% die bes e Gesam leis ung. Dies bedeu e , dass die Genauigkei de ge es e en Modelle im Umgang mi Da en beg enz is . Was geschieh , wenn meh e e Agen en beginnen, auch ungenaue Da en auszu auschen? Dies äg zu dem in eine S udie gezeig en Mul i-Agen -Pa adox bei: die Zu ügung zusä zliche KI-Agen en mach ein Sys em langsame , eu e und ungenaue 27 . In Mul iagen ensys emen kann ein Ang ei e , de Zug i au einen KI-Agen en e lang , wei e e Teile des Sys ems schädigen, wenn die komp omi ie en KI-Agen en den ande en Agen en alsche Eingaben lie e n. Dies üh zu eine Modell e un einigung (model pollu ion) 28 . Die F age, wie sich KI-Sys eme kon inuie lich e besse n und gleichzei ig ele an e P obleme besse lösen können, üh e zu Da win-Gödel-Maschine (DGM), einem selbs le nenden Sys em, das seinen Code i e a i modi izie und jede Ände ung empi isch anhand on Codie ungs-Benchma ks alidie 29 . Das Konzep de Gödel-Maschine wu de 2007 o geschlagen. Demnach soll e eine Maschine eine Sys em e besse ung beweisen können. Im Gegensa z dazu benö ig die Da win-Gödel- Maschine (DGM) lediglich empi ische Belege ü eine e olg e Ve besse ung. Die DGM is eine selbs e e enzielle Selbs e besse ung on Coding-AI-Agen en 30 . Die DGM beginn mi einem Codie ungsagen en, de die Selbs modi ika ion anhand on Codie ungs-Benchma ks s a e . Jede Agen en e sion wi d on de DGM a chi ie und kann anschließend ü die Selbs modi ika ion du ch o lau ende Explo a ion genu z we den. Diese P ozess e läu i e a i . In dem aus Siche hei sg ünden un e s enge menschliche Au sich in eine Sandbox du chge üh en Expe imen e besse e das DGM seine P og ammie ähigkei en au oma isch (z.B. du ch besse e Codebea bei ungswe kzeuge, op imie es Fens e managemen ü lange Kon ex e und Pee -Re iew-Mechanismen) und s eige e so seine Leis ung. Das DGM is de p ak ische Sch i hin zu eine sich selbs e besse nden KI ü endlose Inno a ion 31 . 1.5 Vollau oma isie e Fe igung Sam Al man, CEO des Cha GPT-Anbie e s OpenAI, e wa e ü 2027 einen lächendeckenden Einsa z on Robo e n in de P oduk ion und sieh einen öllig neuen En wicklungsp ad o : „Wi müssen die e s e Million humanoide Robo e au al modische Weise he s ellen, abe dann können sie die gesam e Lie e ke e bedienen – Mine alien abbauen und a inie en, Lkw ah en, Fab iken be eiben usw.-, um wei e e Robo e zu bauen, die wei e e Chip ab iken, Rechenzen en usw. bauen können.“ O iginal ex : “we ha e o make he i s million humanoid obo s he old- ashioned way, bu hen hey can ope a e he en i e supply chain—digging and e ining mine als, d i ing ucks, unning ac o ies, e c. - o build mo e obo s, which can build mo e chip ab ica ion acili ies, da a cen e s, e c.” 32 . Als wich igen Sch i in Rich ung diese Vision beabsich igen die Un e nehmen Foxconn und N idia, ab 2026 humanoide Robo e in einem Foxconn-We k in Hous on einzuse zen, um do N idia GB300-KI-Se e he zus ellen 33 . 26 gl. Deep Mind 2025 27 gl. Zia 2025 28 gl. He e al. 2024 29 gl. Zhang, J. e al. 2025. De Name Da win nimm Bezug zu E olu ion, Gödel zu Ma hema ik 30 gl. Zhang, J. e al. 2025 31 gl. Zhang, J. e al. 2025 32 gl. Al man 2025 33 gl. Lee 2025 Kuens liche_In elligenz_Maschinene olu ion 7 1.6 Übe wachung und Kon olle de KI Die menschliche Kon olle de KI kann du ch Beobach ung des Ou pu s und Ak ionen e olgen, läss sich abe um die Übe wachung de Chain-o -Though s (Gedankenke en) e gänzen, d.h. de in e nen KI-P o okolle, die die Denksch i e o enlegen. Die Fähigkei , die Denkp ozesse eine KI zu beobach en, wi d als Moni o abili y (Übe wachba kei ) bezeichne 34 . Die üh enden Technologieun e nehmen Google, Me a, OpenAI und An h opic e ö en lich en ein gemeinsames Papie , in dem sie g oße Siche hei sbedenken hinsich lich neua ige KI- A chi ek u en äuße en, die den Beda an „lau em Denken“ (loud hinking) on KI-Modellen eduzie en, d.h. de No wendigkei , Gedankenke en mi sch i lichen P o okollen ü wich ige Denksch i e zu e s ellen. Ohne diese P o okolle wi d es ü KI-En wickle seh schwie ig sein, he auszu inden, was die KI denk und wie En scheidungen ge o en wu den, was zum Kon oll e lus du ch den Menschen üh en könn e 35 . Eine S udie on OpenAI schläg o , Gedankenände ungen du ch Nach agen zu Aussagen zu un e suchen, was zu ie e en Einblicken üh en kann 36 . Dies is no wendig, da es bei o sch i lichen KI-Modellen zu e s eck en Abweichungen, dem hidden misalignmen bzw. Scheming komm , bei denen KI-Modelle ih e Gedanken e be gen, z.B. um Belohnungen zu e hal en ode um Wiede holungsle nen (Rein o cemen Lea ning) zu e meiden. 37 Scheming geh mi ande en Risiken o gesch i ene KI-Modelle einhe , wie Täuschung (decep ion), si ua ion awa eness (wenn die KI weiß, dass sie sich in eine Tes si ua ion be inde ), Mach s eben, au onome Replika ion und Agency (zielge ich e es Ve hal en, bei dem die KI e such , ih e eigenen Ziele du chzuse zen) 38 . Ve schiedene Fo sche äuße n e ns e Bedenken hinsich lich eine po enziell unkon ollie en KI-E olu ion, z.B. du ch Selbs le nen. Die g öß e So ge bes eh da in, dass die Menschhei de zei nich aus eichend au diese Si ua ion o be ei e is und mögliche weise nich genügend Au sich gewäh leis en kann 39 , d.h. die Si ua ion könn e auße Kon olle ge a en 40 und deshalb solle eine s enge Go e nance mi en sp echenden Vo sch i en und Kon ollen einge üh we den 41 . Ande n alls, so die Schluss olge ung on Fo sche n des Machine In elligence Resea ch Ins i u e in Be keley, is das wah scheinlichs e E gebnis die Auslöschung de Menschhei 42 . An h opic’s Ja ed Kaplan, lei ende Wissenscha le on An h opic, sieh im selbs s ändigen T aining on KI-Modellen das g öß e Risiko ü eine unkon ollie ba e In elligenzexplosion, die be ei s im Jah 2027 ein e en könn e 43 . 2 Zusammen assung Dieses A bei spapie bo einen ku zen Übe blick übe Küns liche In elligenz und Maschinene olu ion. Maschinene olu ion is ein P ozess, bei dem Maschinen au onom neue Maschinen e scha en, die wiede um wei e e Maschinen e zeugen usw. Obwohl eine solche E olu ion de zei noch nich möglich is , wu den in e schiedenen Be eichen e hebliche Fo sch i e e ziel , die die Maschinen und die KI de olls ändigen Au onomie, dem Selbs le nen und de Anpassungs ähigkei ü ih e eigene Ve besse ung deu lich nähe b ingen. 34 gl. Ko bak e al. 2025, Guan 2025 35 gl. Ko bak e al. 2025 36 gl. Guan 2025, OpenAI 2025a 37 gl. OpenAI 2025b 38 gl. G ey/Sege ie 2025 39 gl. Ba ne /Sche 2025, Losey 2025, MIRI 2025 40 gl. Adewumi e al. 2025, Tonsen 2025 41 gl. Adewumi e al. 2025, Ba ne /Sche 2025, Losey 2025, MIRI 2025,Tonsen 2025 42 gl. Ba ne /Sche 2025, MIRI 2025 43 gl. Landymo e 2025 Kuens liche_In elligenz_Maschinene olu ion 8 Diese En wicklungen beschleunigen den echnologischen Fo sch i , e schwe en abe zunehmend die menschliche Kon olle und Eing i e. Ans a also eingebunden zu sein, we den Menschen aus dem P ozess e d äng . Zu den Fo sch i en zählen das KI-ges ü z e Design on Compu e chips, das KI-ges ü z e Design ganze Compu e , selbs le nende und sich e besse nde KI-Sys eme in expe imen ellen Umgebungen sowie die au oma isie e Fe igung. Be ei s 2024 gene ie e das maschinelle Le np og amm AlphaChip übe menschliche Chip- Designs und en wickel e 2025 die neue I onwood TPU, die mi dem ak uellen KI-Chip on NVIDIA konku ie en kann. Auch China mach Fo sch i e mi de Chip-Design-KI QiMeng, die be ei s Chips en wickel ha , die mi komme ziellen Chips e gleichba sind. Die Fo schung im Be eich Chipdesign sch ei e asch o an. De e s e d eidimensionale monoli hische 3D- Chip zu Beschleunigung de KI wu de im Dezembe 2025 on Fo sche n de S an o d Uni e si y o ges ell . Das in Shanghai ansässige Un e nehmen CHIPX b ach e einen pho onischen Quan enchip au den Ma k , de bei einigen ma hema ischen Ope a ionen 1000- mal schnelle wa als he kömmliche Chips. Quil e ‘s Physik-basie es Rein o cemen - Lea ning-KI-Sys em en wa im Rahmen des P ojek s Speed un in nu 38 S unden einen unk ions ähigen Linux-Compu e mi 843 Komponen en und üh e 98% de Pla zie ung, des Rou ings und de physikalischen Be echnungen au onom du ch. Neue Me hoden ü das T aining und Le nen on KI wu den 2025 o geschlagen: die Ve ne zung und de In o ma ionsaus ausch zwischen KI-Agen en im e s en Sch i und die o ene E olu ion on KI-Agen en im zwei en Sch i du ch die sogenann e Da win-Gödel- Maschine (DGM). Fo sche on Google DeepMind schlugen o , dass KI-Sys eme oneinande le nen und ih e E ah ungen pe manen aus auschen, sodass ih e En wicklung übe den Menschen hinaus unbeg enz is . Alle dings kann die Ve ne zung und de Wissensaus ausch zwischen KI-Sys emen du ch den Aus ausch ungenaue Da en das Risiko on Sys em ehle n und Fehl unk ionen de KI e höhen. Im Jah 2025 wu de die Da win-Gödel-Maschine (DGM) en wickel , ein selbs le nendes KI-Sys em, das seinen Code i e a i modi izie und jede Ände ung anhand on Codie ungs-Benchma ks empi isch alidie . Dies e wies sich in Expe imen en als e ek i . Die zunehmende Ve b ei ung on Robo e n könn e den Weg zu ollau oma isie en Fe igungsp ozessen ebnen. Die menschliche Kon olle de KI kann du ch Beobach ung des Ou pu s und Ak ionen e olgen, läss sich abe um die Übe wachung de Chain-o -Though s (Gedankenke en) e gänzen, d.h. de in e nen KI-P o okolle, die die Denksch i e o enlegen. Die Fähigkei , die Denkp ozesse eine KI zu beobach en, wi d als Moni o abili y (Übe wachba kei ) bezeichne . Es bes ehen Bedenken, dass neua ige KI- A chi ek u en die Moni o abili y e inge n könn en, o z de E kenn nis, dass es bei o sch i lichen KI-Modellen zu e s eck en Abweichungen, dem hidden misalignmen bzw. Scheming komm , bei denen KI-Modelle ih e Gedanken e be gen, z.B. um Belohnungen zu e hal en ode um Wiede holungsle nen (Rein o cemen Lea ning) zu e meiden. Ve schiedene Fo sche äuße n e ns e Bedenken hinsich lich eine po enziell unkon ollie en KI-E olu ion, z.B. du ch Selbs le nen. Die g öß e So ge bes eh da in, dass die Menschhei de zei nich aus eichend au diese Si ua ion o be ei e is und mögliche weise nich genügend Au sich gewäh leis en kann, d.h. die Si ua ion könn e auße Kon olle ge a en und deshalb solle eine s enge Go e nance mi en sp echenden Vo sch i en und Kon ollen einge üh we den 3 Li e a u quellen Adewumi, T. e al. (2025): AI Mus no be Fully Au onomous. Machine Lea ning G oup, EISLAB, Sweden a Xi :2507.23330 1 [cs.AI] 31 Jul 2025 Al man, S. (2025): Gen le Singula i y. Sam Al man’s Blog 10 June 2025 A enas, Y., B ekelmans, B. (2025): Empowe ing mul i-agen apps wi h he open Agen 2Agen (A2A) p o ocol. Mic oso News 07 May 2025 Kuens liche_In elligenz_Maschinene olu ion 9 A ie a, A.B. e al. (2020): Explainable A i icial In elligence (XAI): Concep s, axonomies, oppo uni ies, and challenges owa d esponsible AI. In o ma ion Fusion 58(2020), p. 82–111 Beye e , J., Ki chne , E. e al. (2025): KI in de Robo ik. Flexible und anpassba e Sys eme du ch in e ak i es Le nen. DOI: h ps://doi.o g/10.48669/pls_2025 Ba ne , P., Sche , A. (2025): AI Go e nance o A oid Ex inc ion: The S a egic Landscape and Ac ionable Resea ch Ques ions Machine In elligence Resea ch Ins i u e Be keley, Technical Go e nance Team May 2025 Chaudh y, H., Klein, L. (2023): A i icial In elligence and Nuclea Weapons: P oblem Analysis and US Policy Recommenda ions. policy@ u u eo li e.o g 14 h No embe 2023 Fu u e o Li e Ins i u e (FLI) Chen, N. (2025): In eg a ing AI in o Semiconduc o Design and Fab ica ion: Me hodologies, Challenges and Fu u e P ospec s. ITM Web o Con e ences 78, 03007 (2025) h ps://doi.o g/10.1051/i mcon /20257803007 CSEIT 2025 Deep Mind (2025): FACTS Benchma k Sui e: Sys ema ically e alua ing he ac uali y o la ge language models. The FACTS eam o Google Deep Mind. Decembe 9, 2025 DSIT (2025): AI Insigh s - Agen ic AI. Pape o he Depa men o Science, Inno a ion and Technology and he Go e nmen Digi al Se ice o he Uni ed Kingdom EAC (2024): EAC In e na ional Consul ing Execu i e Repo . Poli ical S ee ing P ocesses in China in Co e Segmen s o he Pho onics Indus y. Commissioned by he Eu opean Technology Pla o m Pho onics21 Goldie, A. e al. (2024): Addendum: A g aph placemen me hodology o as chip design doi.o g/10.1038/s41586-024-08032-5 Published online 26 Sep embe 2024 Goldie, A., Mi hoseini, A. (2024): How AlphaChip ans o med compu e chip design Science Sep embe 26, 2024 G ey, M., Sege ie, C.R. (2025): The AI Risk Spec um F om Dange ous Capabili ies o Exis en ial Th ea s. F ench Cen e o AI Sa e y (CeSIA) 20 Augus 2025 Guan, M.Y. e al. (2025): Moni o ing Moni o abili y. OpenAI Decembe 18, 2025 He, Y. e al. (2024): Secu i y o AI Agen s a Xi :2406.08689 3 [cs.CR] 17 Dec 2024 Hin on, G. (2025): KI wi d bald deu lich in elligen e als wi sein. Handelsbla 23-25 Mai 2025, S.26-27 Hi e lab (2025): China’s CHIPX Pho onic Chip P oduc ion Line Se o Accele a e AI, 6G, and Quan um Compu ing De elopmen : SCMP h ps://hi e lab.com/china-chipx-pho onic- chip-ai-6g-quan um-compu ing/ June 17, 2025 Khan, S.M., Mann, A., Pe e son, D. (2021): The Semiconduc o Supply Chain: Assessing Na ional Compe i i eness Cen e o Secu i y and Eme ging Technology (CSET) Issue B ie Janua y 2021 Ko bak, T. e al. (2025): Chain o Though Moni o abili y: A New and F agile Oppo uni y o AI Sa e y. a Xi :2507.11473 1 [cs.AI] 15 Jul 2025 Landymo e, F. (2025): An h opic's Chie Scien is Says We' e Rapidly App oaching he Momen Tha Could Doom Us All. Fu u ism Published Dec 13, 2025 La sen, B. e al. (2024): Na iga ing he AI F on ie : A P ime on he E olu ion and Impac o AI - Wo ld Economic Fo um Ai Go e nance Alliance Sa e Sys ems and Technologies Wo king G oup - Wo ld Economic Fo um Whi epape