Stuart Russell, professor de ciência da computação na Universidade da Califórnia, em Berkeley, falou sobre como evitar que a IA seja "anti-orientada para o cliente". Em sua opinião, a IA precisa ser construída na forma de interesse humano como a estrutura central da motivação. "Na verdade, o que nos interessa não são as máquinas inteligentes, mas as máquinas que são boas para nós." "O modelo não é transparente e as pessoas não entendem como funciona internamente. Ele citou, por exemplo, a notícia de “um assustador chatbot do Microsoft Bing incitando um colunista de tecnologia a se divorciar” no início deste ano, o que “indica, pelo menos na superfície, que a IA pode estar buscando ativamente algum tipo de objetivo”. Os sistemas de IA devem ser construídos com "componentes compreensíveis" e garantir que sistemas de IA inseguros não sejam implantados e executados. "O potencial da inteligência artificial para a sociedade é enorme e cria um impulso imparável para um maior desenvolvimento. Mas se continuarmos no caminho do passado, acho que podemos perder o controle... A IA precisa ser como a aviação e a energia nuclear poder, com padrões de segurança rigorosos que não podem ser contornados e exigem cooperação internacional para garantir a conformidade."
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Stuart Russell, professor de ciência da computação na Universidade da Califórnia, em Berkeley, falou sobre como evitar que a IA seja "anti-orientada para o cliente". Em sua opinião, a IA precisa ser construída na forma de interesse humano como a estrutura central da motivação. "Na verdade, o que nos interessa não são as máquinas inteligentes, mas as máquinas que são boas para nós." "O modelo não é transparente e as pessoas não entendem como funciona internamente. Ele citou, por exemplo, a notícia de “um assustador chatbot do Microsoft Bing incitando um colunista de tecnologia a se divorciar” no início deste ano, o que “indica, pelo menos na superfície, que a IA pode estar buscando ativamente algum tipo de objetivo”. Os sistemas de IA devem ser construídos com "componentes compreensíveis" e garantir que sistemas de IA inseguros não sejam implantados e executados. "O potencial da inteligência artificial para a sociedade é enorme e cria um impulso imparável para um maior desenvolvimento. Mas se continuarmos no caminho do passado, acho que podemos perder o controle... A IA precisa ser como a aviação e a energia nuclear poder, com padrões de segurança rigorosos que não podem ser contornados e exigem cooperação internacional para garantir a conformidade."