Selon un rapport de Sina Technology du 6 juillet, OpenAI, le développeur de ChatGPT, a déclaré qu'il prévoyait d'investir davantage de ressources et de mettre en place une nouvelle équipe de recherche pour étudier comment assurer la sécurité de l'IA pour les humains, et éventuellement réaliser l'utilisation de L'IA pour superviser l'IA. Le co-fondateur d'OpenAI, Ilya Sutskeffer, et la responsable de l'alignement de l'IA, Jane Lake, ont déclaré dans le blog officiel : "Les énormes capacités de la superintelligence pourraient entraîner la perte de pouvoir ou même l'extinction d'êtres humains. Actuellement, nous n'avons aucune solution pour manipuler ou contrôler un éventuel l'IA superintelligente et l'empêcher de devenir un escroc." Le billet de blog prédit que l'IA superintelligente, des systèmes plus intelligents que les humains, pourraient émerger dans les 10 prochaines années. Les humains ont besoin d'une technologie plus puissante que celle actuellement disponible pour contrôler l'IA superintelligente, des percées sont donc nécessaires dans la "recherche d'alignement de l'IA", qui est un problème majeur dans le contrôle de l'IA, nécessitant que les objectifs de l'IA et les valeurs et intentions humaines soient cohérents. OpenAI consacrera 20% de sa puissance de calcul à la résolution de ce problème dans les 4 prochaines années.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Selon un rapport de Sina Technology du 6 juillet, OpenAI, le développeur de ChatGPT, a déclaré qu'il prévoyait d'investir davantage de ressources et de mettre en place une nouvelle équipe de recherche pour étudier comment assurer la sécurité de l'IA pour les humains, et éventuellement réaliser l'utilisation de L'IA pour superviser l'IA. Le co-fondateur d'OpenAI, Ilya Sutskeffer, et la responsable de l'alignement de l'IA, Jane Lake, ont déclaré dans le blog officiel : "Les énormes capacités de la superintelligence pourraient entraîner la perte de pouvoir ou même l'extinction d'êtres humains. Actuellement, nous n'avons aucune solution pour manipuler ou contrôler un éventuel l'IA superintelligente et l'empêcher de devenir un escroc." Le billet de blog prédit que l'IA superintelligente, des systèmes plus intelligents que les humains, pourraient émerger dans les 10 prochaines années. Les humains ont besoin d'une technologie plus puissante que celle actuellement disponible pour contrôler l'IA superintelligente, des percées sont donc nécessaires dans la "recherche d'alignement de l'IA", qui est un problème majeur dans le contrôle de l'IA, nécessitant que les objectifs de l'IA et les valeurs et intentions humaines soient cohérents. OpenAI consacrera 20% de sa puissance de calcul à la résolution de ce problème dans les 4 prochaines années.