Os efeitos negativos da inteligência artificial

sofisticada tecnologia continua a própria incorporar na sociedade moderna, de assistentes pessoais digitais e algoritmos de busca inteligente no Google, para carros experimentais de auto-condução. inteligência artificial é definido como um computador ou máquina de ser capaz de realizar "dedução lógica e inferência," e "tomar decisões com base na experiência do passado ou informações insuficientes ou conflitantes." níveis de tecnologia atuais já representam dilemas éticos assustadoras, como se drones militares ou outros sistemas robóticos deve ser projetado para usar força letal contra alvos sem o envolvimento humano directo. Atualmente, máquinas programadas podem reagir com maior rapidez e precisão do que um operador humano, mas ainda são capazes de erro grosseiro, sem preconceitos humanos e intuição para orientar a tomada de decisão. Estas questões serão intensificados se AI é construído em tais sistemas, a introdução de motivos independentes que podem ser completamente imprevisível ou em conflito direto com intenções humanas.

Incorporação de inteligência artificial irá mudar drasticamente o conceito de humanidade do trabalho. Desde a Era Industrial, tecnologia de qualquer tipo torna inevitavelmente muitos empregos obsoletos, criando novas oportunidades em áreas emergentes. AI oferece um futuro em que as máquinas fazem tarefas em nosso lugar, permitindo que as pessoas buscarem uma vida de lazer. O economista John Maynard Keynes foi tão longe - em 1930 - como prever uma semana de trabalho de 15 horas em 2030. Em níveis populacionais atuais, todos os aspectos da sociedade exigiria uma drástica re-imaginando tanto culturalmente e economicamente se a automação criado tais uma mudança dramática na forma como os nossos dias são gastos.

Uma ameaça significativa da inteligência artificial é se ele opta por utilizar habilidades já avançadas para criar máquinas de ainda maior poder cognitivo. gerações avançadas de AI poderia funcionar como acima seres humanos como nós animais acima, e até mesmo possivelmente evoluir para além da capacidade humana de entendê-la. Neste resultado - referido como o Singularity pelo Dr. Vernor Vinge para VISION-21 Simpósio da NASA Lewis Research do Centro em 1993 - as regras para a vida como a conhecemos mudaria para sempre, pois não há maneira de prever se AI decidiria a coexistir ou ser hostil para com a humanidade.

Hawking salienta que qualquer discussão séria sobre inteligência artificial deve levar em consideração as ameaças potenciais e como gerenciá-los, e apela a uma investigação mais crítica, institucional, como o aumento dos recursos corporativos são dedicados à realização de avanços na criação de inteligência artificial. Vinge postula que AI pode ser fortemente regulada por regras que o comportamento benevolente efetivamente hard-fio em robôs autônomos, como imaginado por Três Leis da Robótica do escritor de ficção científica Isaac Asimov. Vinge também adverte que a concorrência natural do ser humano, provavelmente, levar ao desenvolvimento de modelos irrestritos de AI, por isso mesmo essas garantias pode não ser suficiente para controlar o Singularity caso ocorra.