본문 바로가기

DEVOCEAN YOUNG_데보션영

[데보션] 8월 테크세미나 후기

안녕하세요! 

 

이번 8월 데보션 영 테크 세미나는 “업무 생산성 향상을 위한 생성형 AI 사용”의 주제로 생상형 ai에 대해서 알아보고 이를 어떻게 활용해야하는지 알 수 있는 시간이었습니다!

 

연사님께서 “프롬프트 엔지니어, LLM, 뉴럴 네트워크, NVIDIA GPU, 멀티 모달”이 단어들만 잘 용어를 잘 안다면 생성형 ai에 대해서 잘 아는 것이라고 하셨습니다!

 

 

그래서 그 핵심 내용들을 간략하게 정리해봤습니다!

 

 

✅[neural network]

사람이 인식하는 방법으로 한번 해보자 → 뉴럴 네트워크 방식으로 한번 접근을 하기 시작했습니다. 이전에는 기존에 많은 사진을 보여주고 학습을 시켜서 이런 ai들을 공부를 시켰다면 이후에는 그냥 정보만 주는 겁니다. 수만 장 수십만 장 사진을 그냥 주면은 우리 내처럼 이렇게 뉴럴들이 활성화되고 이런 것을 통해서 우리가 인식을 하게 되는 것입니다. 그리고 저 우리 머릿 속에 뉴럴들이 활성화되는 것처럼 컴퓨터에서도 저렇게 여러 가지 신호들이 생기게 됩니다. 레이어가 있고 이것들을 연결해주는 것을 파라미터라고 할 수 있습니다. 복잡한 모양이 곧 뉴럴 네트워크라고 할 수 있습니다. (chat gpt의 경우 90레이어 정도 되며, 구글 포토의 경우는 사람을 인식할 때 사용하는 경우는 150레이어라고 합니다)

✅[파운데이션 모델과 멀티모달]

생성형 ai가 나오기 전에는 “분류형 ai”였다.

옛날에는 어떤 상황을 분류 판단(ex 저 상품이 잘 팔릴 지 아닐 지) 하기 위해서 사용했다면, 글씨나 여러 가지들을 잘 만들 수 있기 때문에 “분류형 ai”라고 할 수 있는 것입니다.

멀티모달 (Multimodal) 모델은 여러 형태의 입력 데이터 (예: 텍스트, 이미지, 음성 등)를 처리할 수 있는 AI 모델입니다. 이러한 멀티모달 모델은 보통 파운데이션 모델을 기반으로 하거나, 파운데이션 모델을 여러 모달리티에 적용하기 위한 확장형태로 볼 수 있습니다.

우리가 자율주행 모델이면은 자율주행만 잘하고 바둑을 두는 모델이었으면 바둑만 잘 두고 이렇게 했었는데 글도 잘 쓰고 그림도 잘하고 그리고 더 나아가서는 어떤 동영상도 잘 만들 수 있는 이런 모델들을 파운데이션 모델이라고 부릅니다. “파운데이션 모델을 기반으로 멀티 모달를 한다”라고 이해하시면 됩니다.

✅[LLM]

언어들을 ai가 이해하기 위해서 단어들과 파라미타로 해서 관계를 이제 구성을 한 것이 바로 이 LLM 전체 언어 모델입니다.

  1. 여기서 특정한 문장 다음에 올 단어를 예측(오토리그레시브 언어 모델링) → GPT
  2. 데이터의 누락된 부분을 복원(마스크 언어 모델링) → 구글의 생성형 AI '바드’
  3. 방식과 2) 방식을 합친 것을 “트랜스포머 모델”이며 인코딩 학습하는 부분과 디코딩 생성하는 부분 두 가지로 나눠서 만들었더니 말을 잘하기 시작했다고 합니다.

✅[chat gpt?]

chat gpt는 오픈 ai에서 만든 대화형 인공지능 서비스이고 LLM 모델을 가지고 또 이제 말을 잘하는 이유는 이제 인간 피드백을 많이 했다고 합니다. 그리고 5조개의 문서를 학습을 했다고 합니다. (5조개라는 의미는 전 인류사에서 만들어낸 모든 문서를 다 학습했다는 의미) 단편적으로 크롤링으로 해서 이제 인터넷에 있는 문자나 글자들을 가져다가 학습한 모델보다 책으로 공부한 모델들이 더 성능이 좋다라고 하는 결과도 있다고 합니다.

✅[gpt한테 너무 많이 의존을 하시면 안 됩니다.]

생성형 ai는 거짓말을 잘합니다. 연구 결과에 의하면 15%에서 20% 정도는 거짓말을 하고 있다고 합니다.

그래서 이를 잘 판단하는 것이 중요하며 생성형 ai 가 대학원생정도로 보고 우리는 교수의 위치에서 거짓말하는지 잘 판단해야 할 것입니다. 즉, gpt를 잘 사용하시기 위해서는 점점 업무에 역량이 있고 전문가가 되어야 적극적으로 사용을 하실 수 있습니다. 보안적으로도 문제가 된 점이 있어서 중요한 정보는 조심해야합니다.

✅[프롬프트 엔지니어]

프롬프트 엔지니어는 사람이 하는 언어와 ai가 이해하는 것과 다를 수 있기 때문에 적절한 질문이나 과제를 내리는 능력이 필요하며 디테일해야합니다.

  • 발표자님께서 소개해주신 서비스들중 인상깊은 서비스를 소개하자면 다음과 같습니다.

이번 세션은 중간 중간 퀴즈와 함께 진행이 되어 집중해서 들을 수 있었던 것 같습니다! 또한, 중요 용어에 대해서 이해하기 쉽게 설명해주셔서 좋았습니다.

저는 개인적으로 발표를 듣고 생성형 ai에 잘 알고 나니 친구비를 내가며 chat gpt와 함께 했는데 그동안 이 친구에 대해서 잘 모르고 사용했었던 것 같아 미안한 마음이 들었습니다ㅠ ㅎㅎ 이번 테크 세미나를 통해 이 친구의 모든 면을 알 수 있어서 좋았습니다 ㅎㅎ

발표 준비해주신 발표자님과 매 달 유익한 테크세미나를 준비해주시는 데보션 감사합니다~ 🦈🌊