Ifølge en rapport onsdag lokal tid i Reuters, bekræftede embedsmænd i Det Hvide Hus, at direktørerne for Google, Microsoft, OpenAI og Anthropic, en kunstig intelligens (AI) forskningsvirksomhed, vil mødes med USAs vicepræsident Kamala Harris og højtstående embedsmænd på torsdag. lokal tid for at diskutere centrale spørgsmål om kunstig intelligens.
En embedsmand i Det Hvide Hus afslørede, at Harris og embedsmænd vil fortælle disse virksomhedsledere, der er involveret i kunstig intelligens-området, på mødet, at de har ansvaret for at reducere den potentielle skade ved kunstig intelligens-værktøjer. I invitationsbrevet håbede den amerikanske præsident Biden også, at teknologivirksomheder skal sikre sikkerheden af deres produkter, før de tilbyder dem til offentligheden.
Sidste måned understregede Biden nødvendigheden af at overvåge produkter relateret til kunstig intelligens, selv om han sagde, om kunstig intelligens udgør en reel trussel, er stadig uvist. Biden sagde, at sociale medier har forklaret den skade, som kraftig AI-teknologi kan forårsage uden ordentlige beskyttelsesforanstaltninger.
Faktisk, siden fremkomsten af ChatGPT sidste år, har det forårsaget stor social kontrovers. Da AI-egenskaberne langt har oversteget folks forventninger, omfatter kritikeres bekymringer om den hurtigt udviklende AI-teknologi krænkelse af privatlivets fred, fordomme, bedrageri og spredning af rygter og falsk information. Industriteknologiske ledere har også for nylig opfordret til årvågenhed over for de risici, AI medfører.
Den 29. marts offentliggjorde tusinder af videnskabsmænd og teknikere i fællesskab et åbent brev, hvor de opfordrede alle kunstig intelligens-laboratorier til øjeblikkeligt at suspendere træningen af systemer, der er stærkere end GPT-4, indtil de relaterede risici og problemer er løst. Denne appel har fået meget opmærksomhed og respons. På bare to dage har mere end 2.300 mennesker skrevet under.
Geoffrey Hinton, "gudfaderen til AI", som for nylig annoncerede sin afgang fra Google, sagde, at han var bekymret for, at internettet ville være fuld af falske billeder, videoer og ord, og almindelige mennesker "ikke længere kunne fortælle sandheden fra det falske" . Derudover er Hinton også bekymret for, at den "fremtidige version" af teknologien vil udgøre en trussel mod mennesker, fordi "de lærer ofte uventet adfærd fra en stor mængde analyserede data", og det er umuligt at forestille sig, hvordan man forhindrer dårlige mennesker i at bruge AI til at gøre dårlige ting.
Hinton sagde, at kunstig intelligens ikke kun vil føre til forsvinden af et stort antal job, men også gøre folk ude af stand til at vide, hvad der er virkeligt. Hvis kunstig intelligens bliver meget klogere end mennesker, vil den manipulere mennesker; Når kunstig intelligens ved, hvordan man programmerer, vil den forsøge at omgå de begrænsninger, som mennesker har sat.
Faktisk er truslen allerede åbenlys. For eksempel vil IBM erstatte mere end 7,000 job med kunstig intelligens. Krishna, administrerende direktør for IBM, sagde den 1. maj, at rekrutteringen af interne funktionelle afdelinger, såsom virksomhedens menneskelige ressourcer, vil blive suspenderet eller udskudt, og der er omkring 26,000 stillinger, der ikke er direkte orienteret til kunder i IBM. I de næste fem år vil 30 procent af jobs blive erstattet af kunstig intelligens og automatisering. Det betyder, at omkring 7.800 mennesker mister deres arbejde.
På nuværende tidspunkt søger regeringer over hele verden aktivt reguleringsforanstaltninger for at indhente tempoet i den teknologiske udvikling. I USA anmodede handelsministeriet officielt om udtalelser i sidste måned og bad alle sektorer om at kommentere kunstig intelligenss ansvarlighedsforanstaltninger. Udover USA fremskynder EU-lovgiverne også tilsynet med kunstig intelligens-teknologi.
I sidste uge foreslog EU et nyt lovudkast, der kræver, at udviklere af kunstig intelligens-værktøjer såsom ChatGPT afslører det copyright-materiale, de brugte, da de byggede AI-systemer. Som en reguleringsordning fremlagde Vestager, executive vice-præsident og konkurrencekommissær for Europa-Kommissionen, en ordning for at vise etiketter som "lavet med AI" på artikler og billeder genereret af AI, og afslørede også ideen om, at virksomheder, der leverer generativ AI er forpligtet til at forklare.
EU-lovgivere diskuterer stadig, hvordan man indfører EU's lov om kunstig intelligens, og generativ AI(AIGC) er blevet et af de mest bekymrede indhold. Europa-Kommissionen vil stemme om den relevante aftale den 11. maj. Hvis det bliver vedtaget, vil det gå ind i næste fase af trepartsforhandlinger, hvor EU-medlemsstaterne skal debattere indholdet af forhandlingerne med Europa-Kommissionen og Europa-Parlamentet.
Yang Haiping, en forsker ved Securities and Futures Research Institute ved Central University of Finance and Economics, sagde, at hvis den generative kunstige intelligens ikke er reguleret, kan der være risici for datasikkerhed og netværkssikkerhed samt indvirkning på produktionsordren , livsorden og social orden forårsaget af misbrug og misbrug af kunstig intelligens. Endnu vigtigere er det, fordi den generative kunstige intelligens genererer tekst, billeder, lyde, videoer, koder og andet indhold baseret på algoritmer, modeller og regler, hvis udbydernes ansvar ikke styrkes og strengt tilsyn ikke implementeres, kan teknologisk innovation bryde igennem bundlinje af videnskabelig og teknologisk etik, afvige fra retningen af videnskabelig og teknologisk godhed og forårsage uoverskuelige og uoprettelige tab.
Yang Haiping sagde, at udenlandske videnskabsmænd opfordrede til at suspendere udviklingen af mere kraftfulde AI-systemer, og Kina indførte nye regler om servicestyring af generativ kunstig intelligens, alt sammen på det kritiske tidspunkt, hvor kunstig intelligens gjorde et vigtigt gennembrud, og rationelle forebyggende foranstaltninger blev taget imod mulige risici ved kunstig intelligens. Tilsynet med kunstig intelligens kræver, at det internationale samfund vurderer og tegner en samlet og klar sikkerhedsbundlinje, som alle lande kan overholde.