본문 바로가기
IT 공부/생성형 AI

[생성형 AI] 프롬프트 관련 확장 프로그램

by 해모해모 2024. 11. 9.
728x90
반응형

프롬프트 관련 확장 프로그램

프롬프팅의 한계

  • 인공지능 기술의 한계
  • 언어모델의 구조적 한계
  • 프롬프팅 기법 자체의 한계
  • 최신 지식 업데이트 비용
    • 학습 시점 이후의 데이터에 대해서 추가 학습 필요
    • 막대한 학습 비용, 온라인 학습 기술의 한계
  • 한정된 입력 토큰의 수
    • 언어모델의 기반 구조인 트랜스포머
    • 입력 토큰의 수에 따라 계산 비용이 기하급수적으로 증가
  • 텍스트 대상 학습
    • 언어모델은 주로 자연어, 코드를 학습
    • 서식, PDF, PPT, 이미지, 영상 등 다양한 형태의 데이터를 다루기 어려움
  • 방대한 탐색 공간
    • 프롬프트 엔지니어링: 대화형 언어 모델에 최적화된 프롬프트를 찾는 과정
    • 최적의 프롬프트는 모델 종류, 학습된 데이터, 학습된 시점에 따라 다름
  • 프롬프팅 한계의 극복: 앞서 다룬 한계점들을 다루는 다양한 확장 프로그램 존재

프롬프트 템플릿

  • AIPRM: 프롬프트 템플릿 확장 프로그램
    • 사람들이 직접 디자인한 다양한 프롬프트 공유
    • 프롬프트 엔지니어링 시간을 크게 절약할 수 있음
    • 확장 프로그램 설치 후 다양한 프롬프트 템플릿 활용 가능

검색엔진과 ChatGPT

  • WebChatGPT: 검색 기반 챗봇
    • ChatGPT가 인터넷 웹 페이지에 접근할 수 있도록 함
    • https://tools.zmo.ai/webchatgpt
    • 인터넷에 접근하여 최신 정보 활용 가능
    • 미리 만들어진 프롬프트 템플릿 제공

도구를 활용하는 ChatGPT

  • LangChain: 도구, 검색과 융합된 ChatGPT
    • OpenAI ChatGPT API와 도구, 검색 기능 융합
    • 1) 필수 라이브러리 설치: 엘리스 플랫폼 외부에서 같은 실습을 하고자 할 경우, 아래 라이브러리를 설치
    • 2) ChatGPT 검색 에이전트 구동
    • 3) 검색해보기
    • 4) ChatGPT 요약 사이트 구동
    • 5) 기사 요약해보기
    • 6) ChatGPT PDF 요약 사이트 구동
    • 7) PDF 요약해보기
    • 8) ChatGPT 유튜브/웹사이트 요약 사이트 구동
    • 9) 유튜브 요약해보기
    • 10) 계산기가 추가된 ChatGPT 검색
728x90
반응형

댓글