Google trabalha em medidas para conter IA

A Singularidade é o problema real e que se torna mais real a cada dia: a ideia de que, como avanço da inteligência artificial, ela simplesmente se torne consciente e na melhor das hipóteses escravize a humanidade (ou pior, decidam exterminar a raça humana, como a Skynet faz no clássico O Exterminador do Futuro). Grandes nomes da tecnologia e da Ciência, como Elon Musk e Stephen Hawking classificam a robótica como o maior perigo da Terra. Com isto em mente, a Google já começou a trabalhar em medidas de contenção. Segundo a Business Insider, a empresa publicou um artigo, inclusive com detlhes científicas da sua pesquisa, sobre o avanço e os trabalhos da sua equipe de IA, o Deep Mind.

Primeiramente, se inspirando nas leis da robótica de Asimov,  o Google quer prevenir que os robôs percebam e possam interromper o controle humano. Isso se torna necessário a medida que a equipe cria formas do robô primitivo raciocinar. A forma de fazer isso seria o contrário: criar formas garantidas de que os donos do robô pudessem assumir o controle dele. O exemplo dado é o de um robô que precisa sair do armazém para descarregar uma carga, mas está chovendo. É mais perigoso fazer ele raciocionar que não deve sair na chuva. Deixando a interrupção no controle humano, os donos pessoalmente cancelam o comando de que ele saia na chuva. Isso mantém os humanos envolvidos e o robô em uma coleira. Os cientistas estão chamando isso de ‘interrupção segura’, uma forma de não investir demais no pensamento independente robótico.