De acordo com um relatório da Sina Technology em 6 de julho, a OpenAI, desenvolvedora do ChatGPT, disse que planeja investir mais recursos e criar uma nova equipe de pesquisa para estudar como garantir a segurança da IA para humanos e, eventualmente, realizar o uso de IA para supervisionar a IA. O co-fundador da OpenAI, Ilya Sutskeffer, e a líder do AI Alignment, Jane Lake, disseram no blog oficial: "As enormes capacidades de superinteligência podem levar à perda de poder ou até à extinção dos seres humanos. Atualmente, não temos solução para manipular ou controlar um possível IA superinteligente e evitar que ela se torne um desonesto." A postagem do blog prevê que a IA superinteligente, sistemas que são mais inteligentes que os humanos, podem surgir nos próximos 10 anos. Os humanos precisam de uma tecnologia mais poderosa do que a atualmente disponível para controlar a IA superinteligente, portanto, são necessários avanços na "pesquisa de alinhamento da IA", que é uma questão importante no controle da IA, exigindo que os objetivos da IA e os valores e intenções humanos sejam consistentes. A OpenAI dedicará 20% de seu poder de computação para resolver esse problema nos próximos 4 anos.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
De acordo com um relatório da Sina Technology em 6 de julho, a OpenAI, desenvolvedora do ChatGPT, disse que planeja investir mais recursos e criar uma nova equipe de pesquisa para estudar como garantir a segurança da IA para humanos e, eventualmente, realizar o uso de IA para supervisionar a IA. O co-fundador da OpenAI, Ilya Sutskeffer, e a líder do AI Alignment, Jane Lake, disseram no blog oficial: "As enormes capacidades de superinteligência podem levar à perda de poder ou até à extinção dos seres humanos. Atualmente, não temos solução para manipular ou controlar um possível IA superinteligente e evitar que ela se torne um desonesto." A postagem do blog prevê que a IA superinteligente, sistemas que são mais inteligentes que os humanos, podem surgir nos próximos 10 anos. Os humanos precisam de uma tecnologia mais poderosa do que a atualmente disponível para controlar a IA superinteligente, portanto, são necessários avanços na "pesquisa de alinhamento da IA", que é uma questão importante no controle da IA, exigindo que os objetivos da IA e os valores e intenções humanos sejam consistentes. A OpenAI dedicará 20% de seu poder de computação para resolver esse problema nos próximos 4 anos.