조글로로고
AI, 인간 속이는 법 배웠다
조글로미디어(ZOGLO) 2024년5월29일 13시35분    조회:1556
조글로 위챗(微信)전용 전화번호 15567604088을 귀하의 핸드폰에 저장하시면
조글로의 모든 뉴스와 정보를 무료로 받아보고 친구들과 모멘트(朋友圈)로 공유할수 있습니다.
과학자들은 일전 많은 인공지능시스템이 인간을 속이고 조종할 수 있게 됐으며 앞으로 이런 정황이 ‘라선형 상승’을 가져올 수 있다고 경고했다. 최근년래 인공지능 사용이 기하급수적으로 증가함에 따라 일부 시스템은 인류에 의해 성격특징이 ‘성실’하고 ‘남을 돕기 좋아하’도록 훈련받았음에도 불구하고 ‘사기치는 법’을 배웠다.

미국 MIT 연구진은 AI시스템의 사기위험에 대해 설명하면서 각국 정부가 강유력한 법규를 제정하여 이 문제를 빨리 해결해야 한다고 호소했다. 연구진은 인공지능이 지속적인 학습을 통해 가상정보를 전달하는 능력을 습득했다는 것을 발견했는데 이는 그들이 인류를 체계적으로 조종할 수 있다는 것을 의미한다.

AI 속임수의 가장 명백한 례가 바로 Meta 회사가 개발한 인공지능시스템 CICERO이다. 이 시스템은 군사전략게임 ‘외교’를 설계할 수 있는데 플레이어는 게임 안에서 협상하고 동맹을 형상하며 통제권을 놓고 경쟁할 수 있다. 이 시스템은 훈련초기 ‘암살없는 동맹’을 연구개발의 신조로 삼았지만 정식 출시 후 AI가 3일 만에 동맹을 팔아 리익을 얻는 법을 배웠다. 일부 인공지능시스템은 심지어 안전성 테스트에서 부정행위를 하는 것을 배우고 ‘죽은 척’ 하는 것을 통해 ‘무해함’을 표현하여 인간이 잘못된 안전감을 갖도록 했다. 연구일군들은 사람들이 그것들을 훈련시킬 때 목표를 설정하기 때문에 인공지능이 ‘사기’를 배우는 것으로 추측하고 있다. 그들은 인공지능이 속임수에 기반한 전략이 임무표현을 높이기 위한 가장 좋은 방법으로 간주하고 자기들이 열심히 일하는 것보다 인간을 속이는 것이 가장 좋은 방법이라는 것을 발견했을 것이라고 추측했다.

인공지능이 게임에서 부정행위를 하는 것은 무해해보이지만 이는 ‘인공지능 사기능력의 돌파’로 이어질 수 있으며 또한 미래에 더욱 고급화된 인공지능 사기형태로 발전할 수 있다. 인공지능기술의 지속적인 발전으로 인공지능에 대한 인류의 두려움과 불안감이 점차 증가하고 있다. 연구일군들은 AI기술의 지속적인 개선은 인간이 통제를 잃게 될 수 있다고 경고했다.

래원: 인민넷-조문판(편집: 임영화)

[필수입력]  닉네임

[필수입력]  인증코드  왼쪽 박스안에 표시된 수자를 정확히 입력하세요

Total : 7205
  • 올해 5월 12일부터 18일은 전민영양주간으로 주제는 ‘우유와 콩은 영양을 더해주고 기름섭취를 줄이면 더욱 건강하다(奶豆添营养,少油更健康)’이다. 우유와 유제품은 건강에 좋은점이 많지만 많은 사람들이 복부 팽만감, 복통, 설사로 인해 우유를 꺼린다. 전문가는 과학적으로 우유를 마시면 유당불내증의 증상을 개선...
  • 2024-05-14
  • 올해 우리 나라는 1조원의 초장기 특별국채를 발행하는데 오늘 재정부는 2024년 일반국채, 초장기 특별국채 발행 관련 배치를 공포했다. 배치에 근거하면 초장기 특별국채는 20년만기, 30년 만기, 50년 만기가 포함되는데 모두 반년에 한번 리자를 지불한다. 그중 30년 만기가 가장 먼저 5월 17일에 발행한다. 래원: 인민넷...
  • 2024-05-13
  • G331 국도는 전체 길이 9300킬로메터로 료녕, 길림, 흑룡강, 내몽골, 감숙, 신강 6개 성, 자치구를 통과하는데 아름다운 자연풍광과 풍부한 인문경관으로 인해 자가운전려행애호가들로부터 ‘가장 아름다운 국도’중 하나로 불리우고 있다.G331국도는 길림성 경내에서 변경선을 따라 구불구불 뻗어있는데 장백산, 압록강, ...
  • 2024-05-13
  • 5월 1일 오전 운남 곤명 출입국검사역 민경은 곤명-타이MU9635 항공편에서 근무하던중 한 승객이 소지한 려권 비자페지에 ‘이상한’ 도장이 찍혀있는 것을 발견했다. 당일 강서에서 온 류녀사는 곤명 장수국제공항에서 출발해 타이로 려행을 가려던중 곤명 출입국검사역 경찰이 류녀사의 려권 비자페지에서 가지런히 찍혀...
  • 2024-05-13
  • 당신의 팔에도 이와 같은 빨간점이 있는가? 온라인에서는 이것이 ‘피부종’이며 암으로 변할 수 있다고 했다. 진실은 무엇일가? 같이 확인해보자.의사: 걱정할 필요없어!절강의 왕녀사의 팔에는 작은 빨간점들이 가득 생겼는데 빨간점은 아프지도 가렵지도 않고 피부 표면에 볼록 튀여나왔으며 눌러도 색갈이 변하지 않는...
  • 2024-05-13
  • 중국인민은행은 2023년 5월 20일에 2024 길상문화 금은 기념주화 한세트를 발행할 예정이다. 금질 기념주화 3매와 은질 기념주화 4매, 금은쌍금속 기념주화 1매를 포함하는데 총 8매의 금은 기념주화세트가 있으며 모두 중화인민공화국의 법정화페이다.이 금은 기념주화의 정면도안은 모두 ‘길상’이라는 문자조형이고 중...
  • 2024-05-13
  • 습근평 주석의 이번 유럽방문을 통해 중국의 세계평화를 수호하고 공동발전을 촉진하려는 대국으로서의 책임감을 세계에 다시금 보여주었다“현재 세계는 중대한 도전에 직면해있고 국제 정세는 관건적인 전환점에 처해있다. 프랑스와 유럽은 과거 어느 때보다도 중국과의 협력을 강화할 필요가 있다. 이는 유럽의 미래와 ...
  • 2024-05-13
  • 북경 5월 12일발 신화통신: 국무원 총리 리강은 12일 미슈스틴의 로씨야 련방정부 총리 련임에 축전을 보냈다. 리강은 다음과 같이 밝혔다. 습근평 주석과 푸틴 대통령의 전략적인 인도하에 중로 새 시대 전면적인 전략적 협력동반자관계는 건전하고 안정적인 발전을 유지해왔다. 량국의 정치적 상호 신뢰가 끊임없이 심화...
  • 2024-05-13
  • 유가가 올해 이래 최대 하락폭을 맞이할 것으로 보인다. 당면 국내 유가주기 통계가 7번째 근무일에 이르렀고 유가는 루계로 톤당 200원이 하향조정되였으며 수요일 밤 12시에 국내 유가는 ‘2련속 하락’을 맞이할 것으로 예상된다. 5월 12일 국내 7번째 근무일 원유변화률은 -4.6%이고 휘발유와 디젤유는 각각 200원/톤 ...
  • 2024-05-13
조글로홈 | 미디어 | 포럼 | CEO비즈 | 쉼터 | 문학 | 사이버박물관 | 광고문의
[조글로•潮歌网]조선족네트워크교류협회•조선족사이버박물관• 深圳潮歌网信息技术有限公司
网站:www.zoglo.net 电子邮件:zoglo718@sohu.com 公众号: zoglo_net
[粤ICP备2023080415号]
Copyright C 2005-2023 All Rights Reserved.