Intro

• 네이버 뉴스에서 테마 뉴스를 분류하고 해당 뉴스를 이용하여 테마를 생성하는 프로젝트

Data

• 네이버 뉴스를 크롤링하여 수집하고, 해당 데이터를 chat gpt api를 이용하여 생성
  • 해당 뉴스의 타입, 테마, 동의어, 테마 설명 등을 추출함

Role

• LLM 모델 경량화(lora, 양자화)등의 기술 리처시
• 네이버 테마 뉴스 크롤링 코드 구현
• SFT, FSDP, DeepSpeed를 활용한 LLM 모델 개발
• sLLM을 위한 llama.cpp 추론 코드 구현
• Chat GPT API를 통한 Prompt Engineering 및 테마 뉴스 생성
• Accelerate Multi GPU를 활용한 뉴스 타입 필터 모델 개발
• 동의어 처리 로직 개발

Skill

• Python
• LLM
• FSDP
• DeepSpeed
• Chat GPT API
• DeBERTa(Classification Model)