Intelligenta hissar hissar kommer inte att börja skriva haiku-dikter, än mindre kommer de att komma över missilavfyrningskoder och förinta mänskligheten.
Intelligenta maskiner som vinner Jeopardy eller ett parti Go löper inte den största risken att utveckla aggressiva beteenden mot mänskligheten. Dumma maskiner, som programmerats enbart för att döda människor, har en större risk att hamna bortom människors kontroll och löpa amok och döda urskiljningslöst.
Människor har alltid varit dåliga på att döda andra människor. 1-2% av människorna klarar av att döda en medmänniska. Försvarsbranschen har kämpat med att få upp den siffran till runt 50% under andra världskriget och runt 85% enligt amerikanska armén under Vietnamkriget. När man ökar andelen av soldater som dödar så ökar man även andelen traumatiserade veteraner.
Det kan tyckas vara ett enkelt beslut att ersätta mänskliga soldater med maskiner.
I filmen War games från 1983 datoriserades missilavfyrningen eftersom så stor andel soldater inte lydde när de beordrades att avfyra kärnvapenmissiler. |
Föreningen Campaign to Stop Killer Robots verkar för att autonoma vapen ska förbjudas likt biologiska och kemiska vapen av FN.
Att försvarslobbyn vinner gehör och får ersätta mänskliga soldater med dumma mördar maskiner är en betydligt större risk för mänskligheten än en generell artificiell intelligens.