Відповідно до звіту Sina Technology від 6 липня, OpenAI, розробник ChatGPT, заявив, що планує інвестувати більше ресурсів і створити нову дослідницьку групу для вивчення того, як забезпечити безпеку штучного інтелекту для людей, і врешті-решт реалізувати використання AI для нагляду за AI. Співзасновник OpenAI Ілля Сутскеффер і керівник AI Alignment Джейн Лейк заявили в офіційному блозі: «Величезні можливості суперінтелекту можуть призвести до втрати влади або навіть до вимирання людей. Наразі у нас немає способу маніпулювати чи контролювати можливе надрозумний штучний інтелект і не дати йому стати шахраєм". У дописі в блозі прогнозується, що протягом наступних 10 років може з’явитися надрозумний штучний інтелект, тобто системи, розумніші за людей. Людям потрібна більш потужна технологія, ніж доступна наразі, для керування надрозумним ШІ, тому потрібні прориви в «дослідженні вирівнювання ШІ», яке є головною проблемою в контролі ШІ, вимагаючи узгодженості цілей ШІ та цінностей і намірів людини. OpenAI виділить 20% своєї обчислювальної потужності на вирішення цієї проблеми в наступні 4 роки.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Відповідно до звіту Sina Technology від 6 липня, OpenAI, розробник ChatGPT, заявив, що планує інвестувати більше ресурсів і створити нову дослідницьку групу для вивчення того, як забезпечити безпеку штучного інтелекту для людей, і врешті-решт реалізувати використання AI для нагляду за AI. Співзасновник OpenAI Ілля Сутскеффер і керівник AI Alignment Джейн Лейк заявили в офіційному блозі: «Величезні можливості суперінтелекту можуть призвести до втрати влади або навіть до вимирання людей. Наразі у нас немає способу маніпулювати чи контролювати можливе надрозумний штучний інтелект і не дати йому стати шахраєм". У дописі в блозі прогнозується, що протягом наступних 10 років може з’явитися надрозумний штучний інтелект, тобто системи, розумніші за людей. Людям потрібна більш потужна технологія, ніж доступна наразі, для керування надрозумним ШІ, тому потрібні прориви в «дослідженні вирівнювання ШІ», яке є головною проблемою в контролі ШІ, вимагаючи узгодженості цілей ШІ та цінностей і намірів людини. OpenAI виділить 20% своєї обчислювальної потужності на вирішення цієї проблеми в наступні 4 роки.