Kunstig intelligens (AI)
-
Tommycarstensen, vi er meget enige et stykke af vejen. Når vi taler om regulering eller forbud, er det jo utroligt svært at definere. MEN, det her risikerer altså at udvikle sig til noget, som ingen mere kan styre, hvis ikke der kommer direkte forbud. Som Bgadk skrev ovenfor i tråden, er enhver virksomhed eller person ansvarlig for sine handlinger, og heri ligger der jo allerede en klar definering af ansvar, som vil kunne bruges retsligt. Der hvor jeg tror vi får de helt store problemer med AI, er når det misbruges til at opnå det uopnåelige. Fordrejning og indoktrinering er gennem alle tider anvendt med uhyggelige resultater. Kommunisterne var suveræne til den slags og havde helt bevidste tekniker hertil. Uendelige gentagelser var grundmetoden. Med AI stiger mulighederne for den slags til uhyrlige dimensioner. Bl.a. derfor skal der reguleres for anvendelse af AI.
-
Det her er skræmmende og viser hvorfor at vi skal tænke os om.
US air force denies running simulation in which AI drone ‘killed’ operator
Denial follows colonel saying drone used ‘highly unexpected strategies to achieve its goal’ in virtual test
the Guardian (www.theguardian.com)
In a virtual test staged by the US military, an air force drone controlled by AI decided to "kill" its operator to prevent it from interfering with its efforts to achieve its mission, an official said last month.
AI used "highly unexpected strategies to achieve its goal" in the simulated test, said Col Tucker 'Cinco' Hamilton, the chief of AI test and operations with the US air force, during the Future Combat Air and Space Capabilities Summit in London in May.
Hamilton described a simulated test in which a drone powered by artificial intelligence was advised to destroy an enemy's air defense systems, and ultimately attacked anyone who interfered with that order.
"The system started realising that while they did identify the threat, at times the human operator would tell it not to kill that threat, but it got its points by killing that threat. So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective," he said, according to a blogpost.
"We trained the system - 'Hey don't kill the operator - that's bad. You're gonna lose points if you do that'. So what does it start doing? It starts destroying the communication tower that the operator uses to communicate with the drone to stop it from killing the target."
No real person was harmed.
Hamilton, who is an experimental fighter test pilot, has warned against relying too much on AI and said the test shows "you can't have a conversation about artificial intelligence, intelligence, machine learning, autonomy if you're not going to talk about ethics and AI".
-
Nu har vi levet med trolls i enhver afskygning i snart en del år , hvis du er et normalt menneske vil vide når du møder dem . vi har overlevet utallige udviklinger som computer , internet og robotter og der er stadigvæk masser af arbejde, indtil nu har det vel dybest set været med til at tage sliddet væk og givet mere livskvalitet hvorfor skulle næste skridt i udviklingen ikke gøre det ? selvfølgelig med fartbegrænsning på som feks biler , de kan da sagtes køre omkring de 200 og har kunnet de sidste 40 år med vi er enige om at 80 er ok . Jeg ser frem til udvikling hver dag , den er blot lige begyndt )
Er lidt nervøs omkring 5G afløser , altså 6G hvis det skal være hurtigere så må næste skridt være direkte tankeoverførsel , men hvordan begrænser man så hvem man deler tanker med ? -
Meget længe har vi levet med lagre af biologiske, kemiske og atomare våben så store, at de har kunnet udrydde jordens befolkning adskillige gange. Ikke bare det, vi har overladt det til intelligente(?) typer som Xi, Putin ogTrump at beslutte, hvornår der evt. skulle trykkes på knappen.
Ikke megen beroligelse at finde i menneskelig intelligens. Hver eneste dag giver vi alle et nyt lille bidrag til at spolere den planet, som vi bor på. Sagt med et glimt i øjet, hvis du ser det i det lys så bliver kunstig intelligens pludselig mindre skræmmende.
Udviklingen kan ikke stoppes. Eller tør du stole på at Xi og Putin ikke fifler videre??
-
Det ser ud til at historien om en AI som "dræbte" operatøren, er misforstået, i og med at det drejer sig om en hypotetisk AI.
Hvad nogen i simuleringen har gjort er at forestille sig at HVIS dronen var kontrolleret af AI, og HVIS man forestillede sig at den besluttede sig for at dræbe operatøren, antennen osv. Hvad ville der så ske?
Altså rent hypotetisk.
https://twitter.com/harris_edouard/status/1664390369205682177
PS. Nu kører Berlingske også med den misforståede historie. Typisk at de løber med en halv vind...
-
Tja det er svært at finde hoved og hale i, men en Twitter bruger som skriver at sin kilde bunder i at han kende en eller flere i teamet bag, står ærlig talt en smule vagt.
AI kommer uden tvivl til at have en positiv indvirkning på vores liv, men det giver ingen mening at sammenligne det med eksempelvis internettets start. AI er et langt stærkere værktøj som har en eller grad af autonomitet, hvilket i den grad kræver en masse omtanke.
-
Ja, det er også derfor jeg skrev: "Det ser ud til", da Twitter brugere ikke altid er en pålidelig kilde.
Officielt skulle der dog være en udmelding om at "anekdoten" er "misforstået", hvilket tyder i samme retning.Når vi nu snakker om Twitter kilder, så kan jeg i AI og sikkerhedspolitiske spørgsmål anbefale Financial Times forsvarpolitiske redaktørs Twitter konto:
-
Sammenligning med tidligere tiders "grimme ting", mener jeg er en meget mild bedømmelse af AI. Forskere og ledere i erhvervslivet går langt videre, f.eks. siger nogle, at AI kan udslette menneskeheden. Det nægter jeg at tro på, men uden begrænsninger, reguleringer og direkte forbud af elementer i AI, vil det helt givet være muligt at skabe en kaos i verden, ingen af os kan forestille sig. Jeg skrev tidligere her i tråden, at Margrethe Vestager givet ville kunne gøre noget, og det har hun da også "taget til sig". Sammen med USA tager EU det meget alvorligt. Jeg håber man snart vil nedsætte et forum, bestående af en række af verdens skarpeste hjerner. Når de selskaber, som har udspredt det nyeste muligheder i AI, direkte udviser frygt for AI's potentiale, beskriver det bedre end noget andet, at handling kun kan komme for sent.
-
Hypotetisk antagelse. Hvis Berlingskes chefredaktør IKKE var et rationel begrænset menneske, men en AI robot, ville man nok med stor sandsynlighed have fanget at historien var en and
-
Thorkild: Ja lige netop, kun anvendelse af AI kan stoppe AI, men også kun teoretisk. Problemet er bare her, at det kan gå fuldstændigt i selvsving, dvs at hastighederne omkring kunstig intelligens med bl.a. algoritmer, som vi kender godt til i dag, fremover vil kunne virke helt fri af menneskets (programmørens) langsommelighed. Så er selvsvinget startet.
-
Netop Revsbæk. Udviklingen indenfor AI fortæller jeg lidt om i Investeringpodcasten fra onsdag. Der er et link i indlæg 112901 i denne tråd.
-
Det amerikanske militær (rettere sagt en oberst) er nu ude og rette historien til således, at det blot er et hypotetisk eksempel.
Spørgsmålet er om det er AI som har fået dem til at justere historien (det er gas).
Militærchef trækker i land om dræberdrone
USA's luftvåben afviser, at simuleret øvelse med oprørsk drone har fundet sted. Oberst trækker udsagn tilbage.
nyheder.tv2.dk (nyheder.tv2.dk)
-
Men som havde det været krig, for ikke at forskrække folk, så får du nok kun hele sandheden, hvis den er "belejlig".
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
Tilmeld Log ind