AI가 어떻게 작동하는지 모를 때 AI를 신뢰할

AI가

토토사이트 추천 AI가 어떻게 작동하는지 모를 때 AI를 신뢰할 수 있습니까?
우리는 인공 지능 기계가 곧 우리 삶의 많은 측면에 영향을 미치는 결정을 내릴 수 있는 인류 역사상 전례 없는 시점에 있습니다. 하지만 그들이 어떻게 결정에 도달했는지 모른다면 어떻게 될까요? 중요할까요?

건강 보험을 거부당한다고 상상해 보십시오. 하지만 이유를 물으면 회사는 단순히 위험 평가 알고리즘을 탓할 뿐입니다.

또는 모기지 신청을 하고 거절당했지만 은행에서 그 이유를 정확히 알려줄 수 없는 경우입니다.More News

또는 더 심각하게, 경찰이 데이터를 처리하는 슈퍼컴퓨터가 제공하는 예측 모델만을 기반으로 범죄를 계획한 혐의로 사람들을 체포하기 시작한다면.

이것은 인공 지능(AI)이 가차 없이 발전하여 우리 삶의 더 많은 측면에 침투함에 따라 기술 산업이 우려하는 시나리오 중 일부입니다.

AI는 의료 연구 및 진단, 무인 차량, 국가 감시, 적군에 대한 군사 표적화, 형사 선고 등 대부분의 분야에서 실험되고 있습니다.

컨설팅 회사 PwC의 최근 보고서에 따르면 AI가 2030년까지 세계 경제를 15.7조 달러(11.7조 파운드)까지 부양할 수 있다고 합니다.

AI가

그러나 비용은 얼마입니까? 이러한 소프트웨어 알고리즘은 개발자가 자신이 어떻게 답을 생각해 냈는지 항상 이해하지 못할 정도로 복잡해지고 있습니다.

인간의 두뇌가 생각하는 방식을 모방하도록 설계된 신경망의 출현에는 방대한 양의 데이터를 처리하고 기계 학습을 사용하여 수백만 개의 변수 중에서 패턴을 찾아낼 수 있는 상호 연결된 많은 프로세서가 포함되며, 결정적으로 해당 프로세서에 응답하여 적응할 수 있습니다. 배웠다.

이를 통해 더 나은 일기 예보에서 암의 더 정확한 식별에 이르기까지 놀라운 통찰력을 얻을 수 있습니다.

그러나 Charities Aid Foundation의 정책 및 프로그램 책임자인 Rhodri Davies는 다음과 같이 말합니다.

기계 학습을 사용하여 금융 시장의 가격을 예측하는 기술 회사인 G-Research의 양적 연구 관리자인 David Stern은 “최근 몇 년 동안 AI 연구에서 가장 빠른 진전은 점점 더 데이터 중심의 블랙박스 접근 방식을 포함하고 있다”고 경고합니다. 현재 널리 사용되는 신경망 접근 방식에서 이 훈련 절차는 복잡한 방식으로 상호 작용하고 리버스 엔지니어링 및 설명이 매우 어려운 수백만 개의 내부 매개변수 설정을 결정합니다.”

로봇 공학의 또 다른 추세는 “디자이너가 시스템의 행동 목표를 지정하기만 하면 환경과 직접 상호 작용하여 자동으로 학습하는 심층 강화 학습”입니다.

“이는 훨씬 더 이해하기 어려운 시스템을 초래합니다.”
따라서 업계에서는 알고리즘을 항상 이해하고 인간이 통제할 수 있는 방법을 모색하고 있습니다. 예를 들어 미국 국방부 Darpa는 Explainable AI 프로젝트를 실행하고 비영리 연구 회사인 OpenAI는 “안전한 인공 일반 지능의 경로를 발견하고 제정”하기 위해 노력하고 있습니다.

이것은 합리적으로 들리지만 AI의 장점 중 하나는 인간이 할 수 없는 일을 할 수 있다는 것입니다. 덜 효과적이게 되면 어떻게 될까요?