본문 바로가기
728x90
반응형

프롬프팅4

[생성형 AI] 프롬프트 비식별화 프롬프트 비식별화프롬프트 보안의 필요성ChatGPT 민감정보 유출4.7%의 직원이 ChatGPT 민감 정보 입력 경험직원이 입력하는 데이터의 11%가 민감 정보내부정보, 소스코드, 고객 데이터, 개인정보, 건강정보, 프로젝트 계획 등ChatGPT와 같이 외부로 데이터를 반출, 저장하는 경우 유출의 우려 존재비식별화: 식별자 제거를 통해 개인 식별, 추론을 방지하는 것식별자: 개인을 식벼할 수 있는 정보(1:1 대응이 가능한 모든 정보)예) 이름, 주민번호, 이메일, 계좌번호, MRI 사진 등준식별자: 다른 데이터와의 결합을 통해 개인을 추론할 수 있는 정보예) 거주 도시, 몸무게, 혈액형 등프롬프트 비식별화 과정식별자 인식 -> 비식별화 -> 프롬프팅 -> 원상복구입력 프롬프트에서 개인을 특정할 수 있는.. 2024. 11. 9.
[생성형 AI] 프롬프트 관련 확장 프로그램 프롬프트 관련 확장 프로그램프롬프팅의 한계인공지능 기술의 한계언어모델의 구조적 한계프롬프팅 기법 자체의 한계최신 지식 업데이트 비용학습 시점 이후의 데이터에 대해서 추가 학습 필요막대한 학습 비용, 온라인 학습 기술의 한계한정된 입력 토큰의 수언어모델의 기반 구조인 트랜스포머입력 토큰의 수에 따라 계산 비용이 기하급수적으로 증가텍스트 대상 학습언어모델은 주로 자연어, 코드를 학습서식, PDF, PPT, 이미지, 영상 등 다양한 형태의 데이터를 다루기 어려움방대한 탐색 공간 프롬프트 엔지니어링: 대화형 언어 모델에 최적화된 프롬프트를 찾는 과정최적의 프롬프트는 모델 종류, 학습된 데이터, 학습된 시점에 따라 다름프롬프팅 한계의 극복: 앞서 다룬 한계점들을 다루는 다양한 확장 프로그램 존재프롬프트 템플.. 2024. 11. 9.
[생성형 AI] 프롬프트 엔지니어링 테크닉 프롬프트 엔지니어링 테크닉프롬프트 디자인대화형 생성 AIOpenAI ChatGPTGoogle Bard대규모 언어모델(Large Language Models)언어모델 정렬(Aligning Language Models)언어모델: 학습한 텍스트를 바탕으로 자연스러운 단어를 찾는 모델대부분의 자연어처리 문제들을 언어모델이 학습하는 방식으로 전환 가능대규모 (생성형) 언어모델앞에서부터 한 단어씩 만드는 단방향 언어모델자연스러운 문장을 구사하는 데에 강점대규모 언어모델들은 대부분 생성형 언어모델의 구조언어모델 정렬정렬: 인간의 의도에 부합하는 결과물을 만들어내도록 조정하는 것일반적인 언어모델은 웹 상의 텍스트로 학습자연스러운 대화에 초점이 맞춰져 있지 않음문장을 채우는 것에 주로 초점언어모델(GPT-3) -> 인간.. 2024. 11. 9.
[생성형 AI] 프롬프트 엔지니어링 LLM을 활용한 기초 프로그래밍프롬프트 엔지니어링을 통해 우리는 무엇을 할 수 있을까?문서 요약언어 생성 이름 식별(엔티티 인식)문장 구조, 문법 형식 분석 텍스트 분류프로그래밍LLM을 활용한 기초 프로그래밍코드 생성 요청 언어와 task를 주고 코드 생성 요청ex) Tensorflow로 회귀 분석을 진행하고 싶어. 데이터는 ~야. 코드를 작성해줘파이썬 뿐만 아니라 다른 언어도 가능오픈 소스를 알려주고 해당 기능 추가 요청ex) (내가 작성한 코드)에 (오픈 소스 코드) 이 기능을 반영하고 싶은데 추가해서 코드 작성해줘코드 튜토리얼 요청오픈 소스 사용법 요청ex) Tensorflow 2.x를 처음 사용해보려 하는데 설치 방법과 예제를 알려줘프로그래밍 언어 툴 사용법 요청LLM을 활용한 디버깅코드 오류 수.. 2024. 10. 30.
728x90
반응형

티스토리툴바