본문 바로가기
투자

CHAT GPT 개발 배경과 의의 - 카이스트 김대식 교수님

by 투자블로거제니 2023. 3. 24.
반응형

https://www.youtube.com/watch?v=eCKS_etvZyI

유툽알고리즘이 찾아준 영상인데,

CHAT GPT 의 개발 배경(처음에는 인공지능이 세상에 악한 쪽으로 개발될까봐

이를 저지하는 차원의 NGO 로 시작했다고 한다)과 의의를 설명해주신다.

CAHT GPT 의 근간이 되는 기술은 구글이 개발했다고 한다.

동 기술의 아이디어는 언어에서 문법을 배제하고

단어와 단어의 확률관계를 기계에게 학습시키는 것이다.

(촘스키 이론과 반대)

수천억개의 언어데이터를 학습시켜서

가장 높은 확률 관계를 가진 단어들을 제시하게 하는 것이다.

* 집안일하면서 배경으로 유툽 틀어놓고 있다가 이부분에서 컴퓨터 앞에 앉게 되었다.

매우 신기한 이론이다! 외국어 학습도 비슷한 개념으로 할 수 있지 않을까?

1) 문법을 배우고 그 틀에서 말하는 연습하기 와

2) 수많은 언어 데이터(원어민들의 대화, 영상)을 보고 문장구조를 자연스럽게 익히기

이 두가지 중에 결국 CHAT GPT 는 2)번을 선택하여 개발된 것이었다..!

다만 이렇게 가장 높은 확률의 단어를 제시하게 하면

사람이 보기에 어색한 문장이 만들어지게 되었다고 한다.

따라서 여기에 강화학습을 더 하게 되는데,

강화학습이란 기계가 만들어낸 문장을 사람이 확인하도록 하여

추가 학습을 시키는 것이다.

(나이지리아 등 제3세계 국가에서 최저임금으로 이런 노동을 하게 했다고 한다.)

이렇게 해서 결과적으로 우리가 알게된 CHAT GPT가 나오게 된 것!

교수님 말씀중에 인상깊었던 점은

  • 지적인 활동도 대량생산 체계가 가능하다(CHAT GPT가 드라마 1분안에 쓰는 것 가능)
  • 어쩌면 우리가 '생각'한다고 하는 행위도 이전의 많은 글들(데이터들)을 학습한 결과값으로서 나온게 아니었을까 라는 관점 이다.

지식을 대량생산한다는 개념이 놀랍다.

또한 기업 관점에서

마이크로소프트는

  • CHAT GPT 기술 사용권 보유
  • CHAT GPT 를 쓰려면 자사 AZURE 클라우드 서비스를 쓸 수 밖에 없게 만듦

으로서 경쟁자인 구글(검색엔진)과 아마존(클라우드)를 누르고 경쟁우위를 가지게 되었다.

또 애플은 뛰어난 AI 인재가 없어서 유관기술이 없을 것이라고 하셨다.

뭐 어쨌든 애플의 core competency가 기술은 아니고 디자인이었으니..

바뀌지 않을 것이라고 생각했던 검색엔진의 구글 (거의) 독점 구조가

바뀌고 있다는게 놀랍다.

최근 다른 영상에서 마이크로소프트가 자사 오피스 프로그램에

chat gpt 를 포함한 copilot을 소수 고객에게만 테스팅하고 있다고 보았는데

현재 사무직들이 하는 일들의 60%는 대체해 줄 수 있을 것으로 보였다.

(문서 형식 바꾸기, 요약하기, ppt 만들기, 이메일 쓰기 등등)

마이크로소프트는 캐쉬카우인 윈도우와 오피스 프로그램으로 먹고사는

그다지 혁신없는 회사라고 생각하고 있었는데 이렇게 두각을 나타낸다는게 참 놀랍다!

(번외로, chat gpt 여러모로 정말 잘 쓰고 있다 진짜 편하다)

반응형