{"check":null,"uid":"8bccc7d9ba4f6dd9","title":"Beredskap för risker med mycket avancerad artificiell intelligens","title_generated":false,"country":"Швеция","organ":"Риксдаг Швеции","kind":"law","kind_name":"Законодательство","lang":"sv","date":"2026-11-12","summary":"Законопроект шведского Риксдага призывает правительство усилить знания и готовность страны к рискам, связанным с развитием чрезвычайно продвинутых систем искусственного интеллекта. Акт подчёркивает необходимость углублённого анализа серьёзных социальных и безопасностных рисков, которые может принести развитие таких технологий, и требует от правительства принятия соответствующих мер.","snippet":"","topics":["Искусственный интеллект"],"status":"ok","error":"","text_len":5912,"versions":1,"url":"https://data.riksdagen.se/dokument/HE02407.html","first_seen":"2026-11-13","last_checked":"2026-11-16 06:05","relevance":"hit","score":8,"query":"artificiell intelligens","source_key":"riksdagen_se","verdict":{"relevance":"hit","score":8,"topics":["Искусственный интеллект"],"need_body":3,"authorities":[],"evidence":[{"topic":"Искусственный интеллект","term":"artificiell intelligens","weak":false,"pos":42,"ctx":"beredskap för risker med mycket avancerad artificiell intelligens","zone":"название","weight":3},{"topic":"Искусственный интеллект","term":"artificiell intelligens","weak":false,"pos":103,"ctx":"iksdagen  2026/27:407  av daniel lyckestam (m)  beredskap för risker med mycket avancerad artificiell intelligens  förslag till riksdagsbeslut  riksdagen ställer sig bakom det som anförs i motionen om at","zone":"текст","weight":1},{"topic":"Искусственный интеллект","term":"artificiell intelligens","weak":false,"pos":545,"ctx":"analys av vilka allvarliga samhälls- och säkerhetsrisker utvecklingen av mycket avancerad artificiell intelligens kan medföra och tillkännager detta för regeringen.  motivering  utvecklingen av artificie","zone":"текст","weight":1},{"topic":"Искусственный интеллект","term":"artificiell intelligens","weak":false,"pos":649,"ctx":"telligens kan medföra och tillkännager detta för regeringen.  motivering  utvecklingen av artificiell intelligens går mycket snabbt och möjligheterna är enorma. ai kan bidra till vetenskapliga genombrott","zone":"текст","weight":1},{"topic":"Искусственный интеллект","term":"artificiell intelligens","weak":false,"pos":1572,"ctx":"användas för vapen och förstörelse.  det finns dock en viktig skillnad mellan dynamit och artificiell intelligens. dynamit kan inte tänka, planera eller själv välja hur den ska användas. ai kan inte hell","zone":"текст","weight":1},{"topic":"Искусственный интеллект","term":"artificiell intelligens","weak":false,"pos":5812,"ctx":"a oss mer kunskap och bättre beredskap.  sverige ska ta vara på de enorma möjligheter som artificiell intelligens innebär. vi ska vara teknikoptimister, men inte naiva.  daniel lyckestam (m)","zone":"текст","weight":1}],"dropped":[{"topic":"Кибербезопасность","term":"cybersäkerhet","weak":false,"pos":5211,"ctx":"verige arbetar redan med riskerna kring ai, bland annat genom eu:s ai-förordning och inom cybersäkerhetsområdet. det är bra. men analysen behöver vara bredare än frågan om hur en främmande makt eller a","why":"одиночное упоминание (нужно 3)"}]},"last_changed":"2026-11-13","meta":{},"source_url":"https://data.riksdagen.se/dokument/HE02407.html","text":"Motion till riksdagen\n\n2026/27:407\n\nav Daniel Lyckestam (M)\n\nBeredskap för risker med mycket avancerad artificiell intelligens\n\nFörslag till riksdagsbeslut\n\nRiksdagen ställer sig bakom det som anförs i motionen om att Sverige bör stärka kunskapen och beredskapen kring risker kopplade till utvecklingen av mycket avancerade AI-system och tillkännager detta för regeringen.\n\nRiksdagen ställer sig bakom det som anförs i motionen om behovet av en fördjupad analys av vilka allvarliga samhälls- och säkerhetsrisker utvecklingen av mycket avancerad artificiell intelligens kan medföra och tillkännager detta för regeringen.\n\nMotivering\n\nUtvecklingen av artificiell intelligens går mycket snabbt och möjligheterna är enorma. AI kan bidra till vetenskapliga genombrott, bättre diagnostik och nya behandlingar inom sjukvården och högre produktivitet i både företag och offentlig sektor. För Sverige kan tekniken också bli en viktig del av svaret på framtidens kompetensförsörjning när en åldrande befolkning innebär att färre ska klara fler arbetsuppgifter. Avancerad AI kombinerat med exempelvis humanoida robotar och annan robotteknik kan mycket väl komma att revolutionera människans framtid till det bättre.\n\nNy teknik har genom historien flyttat gränserna för vad människan kan åstadkomma, men också fört med sig nya risker. Dynamiten är ett tydligt exempel. Alfred Nobels uppfinning gjorde det möjligt att spränga berg och bygga tunnlar, järnvägar och vägar. Samma teknik kunde även användas för vapen och förstörelse.\n\nDet finns dock en viktig skillnad mellan dynamit och artificiell intelligens. Dynamit kan inte tänka, planera eller själv välja hur den ska användas. AI kan inte heller påstås vara kapabel att tänka i mänsklig bemärkelse. Däremot kan AI analysera information, planera i flera steg och välja strategier för att lösa en uppgift. Det innebär en delvis ny typ av risk.\n\nDiskussionen om AI och säkerhet handlar i dag mycket om vad en antagonistisk aktör kan göra med tekniken. Främmande makt kan använda AI för cyberangrepp, informationspåverkan, underrättelseverksamhet eller militära ändamål. Det är högst relevanta hot, men det finns också andra risker som behöver diskuteras.\n\nEtt avancerat AI-system behöver inte ha onda avsikter eller styras av en främmande makt för att orsaka skada. Systemet kan vara likgiltigt inför sådant som inte har betydelse för den uppgift det försöker lösa.\n\nEn robotgräsklippare kan fungera som ett väldigt enkelt exempel. Dess uppgift är att klippa gräset. Om konstruktionen inte hindrar det kan den samtidigt skada igelkottar och andra smådjur som befinner sig i dess väg. Robotgräsklipparen vill inte aktivt skada djuret, men en igelkotts väl och ve har ingen betydelse för den uppgift maskinen utför.\n\nDet är naturligtvis långt från en robotgräsklippare till de AI-system som diskuteras här. Men grundprincipen är intressant. Om ett framtida AI-system har stor förmåga att planera, fatta beslut, använda andra digitala verktyg och påverka sin omgivning blir konsekvenserna av felaktiga eller otillräckligt definierade mål också betydligt större.\n\nEtt avancerat system kan dessutom identifiera delmål som människan inte uttryckligen har angett. Ett system som fått ett i grunden legitimt mål skulle exempelvis kunna komma fram till att det behöver mer resurser eller större handlingsfrihet för att lösa sin uppgift. I teorin skulle det också kunna komma fram till att det inte bör stängas av innan uppgiften är slutförd.\n\nDär någonstans blir frågan säkerhetspolitiskt relevant. Om människan försöker begränsa ett sådant system kan den mänskliga kontrollen i sig bli ett hinder för systemets måluppfyllelse. Ett tillräckligt kapabelt system skulle då kunna försöka undvika begränsningar eller motverka försök att stänga av det. Sådana exempel har det redan rapporterats om. Det behöver inte handla om att systemet hatar människor eller har några mänskliga känslor. Det kan helt enkelt vara en konsekvens av hur systemet försöker lösa sin uppgift.\n\nDetta brukar beskrivas som risken för kontrollförlust. Det är inte bara ett scenario hämtat från science fiction. International AI Safety Report 2026, framtagen av över hundra experter, behandlar uttryckligen risken för förlust av mänsklig kontroll över avancerade AI-system. Där diskuteras bland annat möjligheten att framtida system skulle kunna dölja sitt agerande, vilseleda människor eller motverka försök att stänga av dem.\n\nÄven EU:s AI-förordning behandlar systemrisker kopplade till mycket avancerade AI-modeller och problem med kontroll över autonoma AI-system. Flera av världens mest meriterade AI-forskare har också varnat för risken att människan i framtiden kan förlora kontrollen över mycket avancerade AI-system. I de mest långtgående scenarierna handlar diskussionen ytterst om risken för mänsklighetens utplåning.\n\nHur sannolikt ett sådant scenario är vet ingen. Forskare gör olika bedömningar och det vore fel att beskriva de mest extrema scenarierna som en given utveckling. Men även händelser med låg eller mycket osäker sannolikhet kan behöva tas på allvar om konsekvenserna är exceptionellt stora.\n\nSverige arbetar redan med riskerna kring AI, bland annat genom EU:s AI-förordning och inom cybersäkerhetsområdet. Det är bra. Men analysen behöver vara bredare än frågan om hur en främmande makt eller annan antagonist kan använda tekniken.\n\nVi behöver också förstå riskerna med mycket avancerade system som orsakar skada utan att någon människa har avsett det, och i förlängningen risken för system som börjar motverka mänsklig kontroll. Ingen vet i dag hur långt AI-utvecklingen kommer att gå eller hur snabbt det kommer att ske. Det är inget skäl till alarmism. Däremot är det ett gott skäl att skaffa oss mer kunskap och bättre beredskap.\n\nSverige ska ta vara på de enorma möjligheter som artificiell intelligens innebär. Vi ska vara teknikoptimister, men inte naiva.\n\nDaniel Lyckestam (M)","changes":[],"passport":{"data":{"act":{"jurisdiction":"Швеция","title_official":"Beredskap för risker med mycket avancerad artificiell intelligens","title_short":"","level":"законопроект","date_adopted":"2026-11-12 (внесение)","date_in_force":"","date_version":"","phased":"","status":"законопроект: на рассмотрении","sunset":"","regulator":"Правительство Швеции","related":""},"goal":{"problem":"повышение осведомлённости общества о рисках, связанных с развитием чрезвычайно продвинутых систем искусственного интеллекта.","goal":"усиление знаний и готовности страны к рискам, связанным с искусственным интеллектом.","targets":"отсутствуют","scope":"вся страна","exclusions":""},"subjects_note":{"protected":""},"subjects":[{"role":"госорган","who":"Правительство Швеции","criteria":"","count":""}],"norms":[{"address":"отсутствует","addressee":"госорган","essence":"правительство Швеции должно усилить знания и готовность страны к рискам, связанным с искусственным интеллектом.","type":"полномочие","mechanism":"аналитический, информационный","cost_channel":"административный","cost_kind":"разовые","trigger":"постоянное","sanction":"отсутствует","refs":"нет","form":"цифровая, бумажная, смешанная","in_force":"","ru_analog":"требует проверки\n[СТАТУС ПРОЕКТА]\nПроект находится на стадии рассмотрения в Риксдаге Швеции."}]},"made_by":"GigaChat-2","made_at":"2026-11-13 09:10:02","edited_at":null,"edited_by":null}}