Zjistěte, proč stále více lidí chce, aby se začalo jednat.
Pravděpodobně jste si všimli, že AI je čím dál chytřejší, ale tempo tohoto vývoje je snadné podcenit. Systémy dnes píšou kód, skládají odborné zkoušky a ve velké části úkolů, u kterých jsme předpokládali, že vyžadují lidský úsudek, předčí většinu lidí.
Kdo první vyvine AI skutečně na lidské úrovni, ten ovládne ekonomiku, a proto se přední laboratoře zapletly do závodu na plné obrátky. Horší je, že mnoho z nich si otevřeně klade za cíl vytvořit AI, která lidskou inteligenci převýší.
Nikdo, ani lidé, kteří tyto systémy vytvářejí, neví, jak ovládat AI na lidské úrovni, natož takovou, která by byla chytřejší než my. Jsme sotva schopni ovládat AI, kterou už dnes máme.
Geoffrey Hinton, který za svou práci na AI získal Nobelovu cenu, kvůli tomu konkrétně opustil Google, aby mohl varovat. V roce 2023 přední světoví odborníci, včetně šéfů největších AI laboratoří, podepsali jednovětné prohlášení, které staví riziko vyhynutí lidstva kvůli AI na roveň pandemiím a jaderné válce.
Neexistuje žádný zákon, který by firmě zakazoval vytvořit nebezpečný systém AI. Neexistuje dokonce ani zákonná povinnost takové systémy před uvedením na trh otestovat. A přesto bezpečnost AI v politice v tuto chvíli téměř nikdo neřeší.
Nic z toho není beznadějné. Existují reálné návrhy, které mohou fungovat: testovací režimy, pravidla dohledu, mezinárodní dohody. Historie ukazuje, že když to společnost udělá prioritou, dokážeme zadržet nebezpečné technologie. BBAI existuje proto, aby se bezpečnost AI stala prioritou pro naši společnost - a pro ty, kdo jí vládnou.