Maybe we shouldn't start RSI on purpose.

Prosím, jen, prosím, nezačínejte RSI úmyslně. Léta nás lidé zabývající se riziky AI x-risk varují, že s AI schopnou RSI přichází obrovské nebezpečí, a dokonce i pouhá existence takové AI představuje hrozbu. Báli jsme se, že omylem propásneme bod návratu, a teď se tolik lidí (nejen ve velkých AI společnostech, ale i v menších laboratořích) snaží tento bod přiblížit úmyslně.

Programy někdy nefungují tak, jak bychom očekávali, a to i když je my navrhujeme. Jak by vytvoření halucinačního stroje mělo vytvořit něco tak silného s fungujícími zábranami?