[ChatGPT] 샘알트먼의 GPT-4, AIG(Artificial general intelligence) 의견

반응형

[ChatGPT] 샘알트먼의 GPT-4, AIG(Artificial general intelligence) 의견

 

https://www.youtube.com/watch?v=L_Guz73e6fw&t=2839s

Lex Fridman Sam Altman

 

2023년 03월 26일 Lex Fridman의 팟캐스트에 Sam Altman가 출연 하여 ChatGPT와 AGI의 대해서 자신의 이야기를 했다. 아래 내용은 위 동영상을 토대로한 요약?? 해보자면 이렇습니다...

 

---

  이전에는 AGI를 구축하기로 선언하고 발표한 것에 대해 많은 오해와 조롱을 받았지만, 이제는 그렇지 않다고 합니다. GPT는 AI의 초기 시스템 중 하나로, 느리고 버그가 많으며 많은 것을 잘하지 못하지만, 초기 컴퓨터와 마찬가지로 우리 삶에서 중요한 역할을 할 것이라는 점에서 놀라운 점이 있다고 합니다.

  GPT는 텍스트 데이터를 기반으로 학습되며, 인터넷에서 얻은 배경 지식을 포함합니다. 이 모델에 약간의 인간 지도를 추가하여 모델을 인간의 의도에 더 맞추고 보완하는 과정을 "강화 학습 + 인간 피드백"이라고 합니다. 이 과정은 매우 적은 데이터로 모델을 훨씬 유용하게 만들 수 있습니다.
  
데이터 세트는 다양한 소스에서 수집되며, 많은 노력이 필요합니다. Reddit와 같은 인터넷 데이터 소스, 오픈 소스 데이터베이스, 파트너십 등을 통해 수집됩니다.

  인간의 지도를 통해 모델을 보완하는 것은 매우 흥미로운 과학이며, 사용 가능성, 지혜, 윤리, 일치 등을 이해하는 것이 중요합니다. 인간의 지도를 포함하는 과정은 매우 중요하며, 미래에도 계속 발전될 것입니다.

 

1. 요약

  GPT-4의 개발에는 알고리즘과 신경망 아키텍처 설계, 데이터 선택, 강화 학습을 통한 사람의 감독과 피드백 통합 등 여러 구성 요소와 단계가 포함됩니다. 파이프라인은 기존 아이디어를 잘 실행하거나 새로운 아이디어를 도출하기 위해 각 단계마다 문제 해결이 필요합니다. 완전히 학습된 시스템의 행동을 예측하는 과학적 이해 수준은 놀랍지만, 여전히 새로운 현상에 대한 더 나은 설명이 필요하고 발견이 계속되고 있습니다. 모델의 성능을 측정하기 위한 평가 프로세스는 오픈 소스로 공개되었으며, 가장 중요한 측정 기준은 모델이 사람들에게 얼마나 유용하고 즐거운지입니다. OpenAI 팀은 특정 입력 세트에 대해 모델이 제공하는 가치와 유용성에 대해 더 잘 이해하고 있습니다. 그러나 과학적 지식이든 인간의 지혜이든 또는 둘 다이든 모델이 학습하는 '무언가'에 대해서는 아직 배울 것이 많습니다. 모델이 어떤 종류의 추론을 할 수 있다는 것은 놀라운 일이지만, 어떤 종류의 추론을 할 수 있는지, 추론 엔진이 아닌 데이터베이스로 얼마나 많은 처리 능력을 사용하는지에 대해서는 여전히 논쟁이 계속되고 있습니다. 신경망에서는 크기가 중요하며, GPT-4의 크기는 GPT-3의 1,750억 개의 매개변수 등 이전 모델보다 더 커질 가능성이 높습니다.

 

  AI가 인간의 능력을 향상시키고 우리의 삶을 개선할 수 있는 잠재력에 흥분하는 것 같지만, 초지능 AI를 만드는 데 따르는 잠재적인 위험과 도전도 인정하고 있습니다. 귀하는 이러한 위험을 인정하고 이를 해결하기 위한 기술을 개발하기 위해 노력하는 것이 중요하다는 데 동의합니다. 또한 과거에 AI에 대한 많은 예측이 잘못된 것으로 입증되었으며, AI를 인간의 가치에 성공적으로 맞추기 위해서는 계속해서 반복하고 학습해야 한다는 점을 인정합니다. 궁극적으로 귀하는 AI가 인간의 가치에 부합하고 인간의 안전에 위협이 되지 않는 방식으로 개발되어야만 우리의 삶을 크게 개선하고 행복을 증진할 수 있는 잠재력을 가지고 있다고 믿습니다.

 

  인공지능과 의식에 대한 논의가 흥미롭다고 생각하지만, 인공지능 분야는 아직 진정한 인공지능이나 의식과 유사한 것을 만들어내지 못하고 있다는 점을 기억하는 것이 중요합니다. GPT-4의 언어 처리 능력은 인상적일 수 있지만, 일반적인 지능이나 의식과는 아직 거리가 멉니다.

 

  의식이 특정 계산 매체에 붙어 있는지에 대한 질문과 관련하여, 이는 현재 진행 중인 논쟁과 연구의 주제입니다. 어떤 사람들은 의식이 충분히 복잡한 시스템에서 나올 수 있다고 주장하는 반면, 다른 사람들은 의식이 특정 물리적 또는 계산 구조와 연관되어 있을 수 있다고 믿습니다. 궁극적으로 이 문제는 신경과학과 철학 분야에서 여전히 미해결 과제로 남아 있습니다.

 

2. 결론

  결론적으로 GPT는 텍스트 데이터를 기반으로 한 초기 AI 시스템 중 하나이며, 강화 학습과 인간 피드백을 통해 모델을 보완하는 과정을 통해 더욱 유용하게 만들어졌습니다. GPT-4의 개발에는 알고리즘과 신경망 아키텍처 설계, 데이터 선택, 강화 학습을 통한 사람의 감독과 피드백 통합 등 여러 구성 요소와 단계가 포함됩니다. 이러한 모델들은 인간의 능력을 향상시키고 우리의 삶을 개선할 수 있는 잠재력이 있지만, 초지능 AI를 만드는 데 따르는 잠재적인 위험과 도전도 인정하고 있습니다. 이러한 위험을 인식하고 이를 해결하기 위한 기술을 개발하는 것이 중요합니다. 또한, 인간의 지혜를 포함하는 과정은 매우 중요하며, 미래에도 계속 발전될 것입니다.