Stel je voor: een militair op het slagveld wil zich op het allerlaatste moment overgeven. Hij heeft geen schijn van kans want het systeem dat hem op de hielen zit, wordt niet bestuurd door een mens, maar door kunstmatige intelligentie.

Nog een voorbeeld: een zwerm drones heeft de opdracht gekregen een brug op te blazen waar militairen overheen lopen. Op het laatste moment stroomt de brug vol met vluchtelingen, maar er is niets meer aan te doen: de machine is geprogrammeerd om aan te vallen en doet dat ook, terwijl de situatie totaal is veranderd.

Nog niet zo lang geleden was dit iets voor in de verre toekomst of zelfs totaal ondenkbaar, maar tegenwoordig zijn het voorst...