01텔레그램 문제
- 텔레그램이 먹통이 되는 현상에 대한 언급이 있었습니다.
02프로젝트 및 이슈 관리
- 다수의 프로젝트를 진행할 때 할 일(todo)이나 이슈를 어떻게 관리하는지에 대한 질문이 있었습니다.
- 웹훅으로 알림을 받는지, 칸반(Hermes), 디스코드, 슬랙의 쓰레드 등을 활용하는지에 대한 논의가 있었습니다.
- 지시자가 여러 프로젝트를 오갈 때 작업 누락을 방지하기 위한 관리 필요성이 언급되었습니다.
- 클로드(Claude) 사용 시 문서로 TODO를 관리하거나 세션을 분리하여 사용하는 방법이 제안되었습니다.
- Hermes를 사용하는 경우 Azure CLI가 캘린더, 메일 권한 연결에 필수적이라는 정보가 공유되었습니다.
03로컬 LLM (거대 언어 모델) 활용
- "로컬이 먼저다", "로컬 전도사" 등의 표현과 함께 로컬 LLM의 사용에 대한 관심이 있었습니다.
- Hermes를 로컬 모델로 돌리기에는 아직 느리다는 의견과 함께, 어떤 모델부터 쓸만한지에 대한 질문이 있었습니다.
- 쓸만한 로컬 모델 및 사양:
* Gemma 31b부터 JSON 파싱이 제대로 된다는 의견이 있었습니다. * 9b 미만은 기능이 제한적이며, 9b부터는 어느 정도 할 수 있고, 로컬 LLM의 최대 가성비는 31b 모델이라는 평가가 있었습니다. * Gemma 31b를 사용하기 위해서는 최소 64GB 램이 필요하며, 실제로 64GB 램 환경에서 사용 중인 사용자가 있었습니다. * Qwen 3.6 모델을 64GB 램 환경에서 사용 중인 사용자도 있었고, Qwen 3.6 14b 모델을 태블릿에 올려 테스트 중인 경우도 언급되었습니다. * Gemma 4 모델을 사용하는 경우도 있었으며, GPT-4 정도의 성능을 기대하는 질문도 있었습니다.
- 로컬 LLM 관련 자료:
* 로컬 LLM 활용에 대한 GitHub 링크가 공유되었습니다. https://github.com/AlexsJones/llmfit
- 로컬 LLM 개발의 어려움:
* 초기 비용(하드웨어)이 많이 든다는 점과, Gemma 툴 콜링(tool calling)의 성능에 대한 질문도 있었습니다. * 간단한 반복 작업을 로컬 LLM으로 테스트 중이지만 아직 어렵다는 의견도 있었습니다.
- 아이패드를 이용한 로컬 LLM 사용에 대한 질문도 있었습니다.
04Hermes 사용 관련 질문
- Hermes를 슬랙에 연동하여 사용할 때, 모델 전환을 어떻게 하는지에 대한 질문이 있었습니다.
- 스레드에서는 Hermes 명령어가 작동하지 않는 문제가 제기되었으며, 이를 해결하기 위해 명령어를 수동으로 등록해야 한다는 힌트가 제공되었습니다.
- 모델 전환 명령 시 베이스 모델이 바뀌는 문제점도 언급되었습니다.
05기타
- 카카오톡 오픈채팅방의 '피드/메시지 삭제 및 관리 기능'에 대한 언급이 있었습니다.
- Meta AI를 오픈클로와 연결하여 사용하는 사용자가 있는지에 대한 질문이 있었습니다.
- 잡코리아의 서비스 초기화 관련 공지가 공유되었습니다.
https://m.jobkorea.co.kr/help/notice/view?B_No=15065
- 지피터스 23기 사전판매 관련 공지가 있었습니다.
* 지인 초대 혜택 (초대받은 지인 2만원 할인, 초대자 1명당 5천원 할인) : https://portal.gpters.org/me/invites * 23기 멤버 초대 쿠폰(2만원 할인) 문의 : https://gpters.channel.io