sllm 파인튜닝

개발/AI

헬스케어 질의 응답이 가능한 sLLM 파인튜닝하기

프로젝트 개요안녕하세요, 지난번 Llama-3.2-1B-Instruction 모델을 한국어 QA 태스크에 파인튜닝했던 경험을 공유드렸는데요. 이번에는 AIHub의 초거대 AI 헬스케어 질의응답 데이터를 활용하여 비슷한 프로젝트를 수행한 경험을 공유하고자 합니다. [지난 Llama-3.2-1B 파인튜닝 프로젝트 보기] Llama-3.2-1B-Instruction 모델 파인튜닝하기Llama 모델이란?먼저, Llama 모델에 대해 간단히 소개하겠습니다.   Llama(Large Language Model Meta AI)는 Meta AI에서 개발한 대규모 언어 모델입니다. OpenAI의 GPT 시리즈와 마찬가지로 트랜스포naakjii.tistory.com 이번 프로젝트의 목표는 AIHub에서 제공하는 헬스케어 ..

개발/AI

Llama-3.2-1B-Instruction 모델 파인튜닝하기

Llama 모델이란?먼저, Llama 모델에 대해 간단히 소개하겠습니다.   Llama(Large Language Model Meta AI)는 Meta AI에서 개발한 대규모 언어 모델입니다. OpenAI의 GPT 시리즈와 마찬가지로 트랜스포머 아키텍처를 기반으로 하며, 다양한 크기와 성능을 제공합니다. 이 포스팅에서 다룰 Llama-3.2-1B-Instruction 모델은 약 10억 개의 파라미터를 가진 모델로, sLLM에 해당하는 아주 작은 파라미터를 가지고 있지만, 특정 태스크에서는 뛰어난 성능을 보여주는 모델입니다.한국어 QA 튜닝 방법한국어 QA 시스템의 발전은 국내 AI 산업에서 매우 중요한 부분을 차지합니다. 검색 엔진, 고객 서비스 챗봇, 교육용 AI 등 다양한 분야에서 활용될 수 있기 때..

njsung
'sllm 파인튜닝' 태그의 글 목록