세상 편한 자세로 맞이하는 내일의 기술
“이불 밖은 위험하니까, 미래는 여기서 만납니다.”
이곳은 최첨단 기술을 가장 게으르고 편안한 자세로 탐구하는 공간입니다. 다루는 이야기는 방장의 느낌에 따라 그날그날 바뀝니다. 편하게 들어와서 미래를 ‘찍먹’ 해보세요.
코어 키퍼(Core Keeper) 의 지하 생물 세계를 탐험하든, 소규모 비즈니스의 복잡한 스프레드시트를 탐색하든, “정보 과부하"는 우리의 최종 보스입니다.
RAG(검색 증강 생성, Retrieval-Augmented Generation) 시스템은 AI에게 특별한 가이드북을 쥐여주는 것과 같습니다. AI가 일반적인 학습 데이터에만 의존하는 대신, 게임 위키나 연구 노트, 법률 계약서 같은 ‘나만의 특정 데이터’를 참조하여 정확한 답변을 제공하게 되죠.
여기 Gemma 3 4B 와 EmbeddingGemma 를 사용하여 프라이빗한 로컬 지식 기반(Knowledge Base)을 구축하는 방법을 소개합니다.
구글의 AI 소식을 듣다 보면 제미나이(Gemini) 라는 이름도 들리고, 젬마(Gemma) 라는 이름도 들리죠? 이름이 너무 비슷해서 마치 쌍둥이 남매 같기도 하고, 도대체 둘의 차이가 뭔지 고개를 갸웃하게 될 때가 있습니다.
기술적으로 말하자면 제미나이는 구글 딥마인드가 개발한 거대한 멀티모달 AI 모델군이고, 젬마는 제미나이와 동일한 기술로 만들어진 경량화된 오픈 모델입니다… 만!
이렇게 설명하면 너무 딱딱하잖아요? 그래서 저는 주변 분들에게 이 둘의 차이를 설명할 때 항상 라면에 비유하곤 한답니다. 오늘 그 맛있는 비유를 여러분께도 들려드릴게요.
“구슬이 서 말이라도 꿰어야 보배.”
Gemini를 사용해 무언가를 만들 때마다, 문득 이 옛 속담이 떠오르곤 합니다.
지금의 Gemini는 저에게 끝도 없이 많은 ‘코드’라는 구슬을 쏟아내 줍니다. 예전 같으면 하나하나 깎아서 만들었어야 할 귀한 구슬들이 이제는 발에 채일 정도로 흔해졌죠.
하지만 그것들이 흩어져만 있다면 그저 데이터 조각일 뿐입니다. 결국 그것을 하나의 온전한 무언가로 꿰어내는 것은 여전히 저의 몫이라는 생각이 듭니다.
그래서 요즘 저는 스스로를 ‘창작자’ 라고 정의하고 싶어집니다.
물론, AI가 짜준 코드를 보며 엔터 키나 OK 버튼을 누르고 있다 보면 묘한 자괴감이 들 때도 있습니다.
쏟아지는 AI 뉴스를 따라가는 건 정말 힘든 일입니다. 그럴싸해 보이는 기술 관련 제목들을 훑어보느라 시간을 엄청 쓰지만, 정작 제가 진짜 원하는 내용과는 거리가 먼 경우가 너무 많거든요. 키워드 필터링은 너무 딱딱해서 그 미묘한 뉘앙스를 놓치기 일쑤고요.
저는 단순한 정규표현식 문자열이 아니라, 저만의 “느낌"에 맞춰 뉴스를 걸러낼 방법이 필요했습니다.
그래서 요즘 EmbeddingGemma Tuning Lab을 가지고 이것저것 시도해보고 있습니다. 이건 구글의 embeddinggemma-300m 모델을 미세 조정(fine-tuning)해서 여러분만의 취향을 이해하도록 만드는 새로운 Hugging Face Space 입니다.
저는 글 끄적이는 것을 좋아합니다. 특히 어렵고 복잡한 개념을 누구나 이해하기 쉽게 말랑말랑하게 풀어낼 때 즐거움을 느낍니다.
그림 그리는 것도 즐깁니다. 비록 ‘개발자 그림’ 수준의 아마추어 실력이지만, 백 마디 말보다 깔끔한 다이어그램 하나가 훨씬 강력하다고 믿으니까요.
그리고 무엇보다, 저는 코딩을 사랑합니다. 내 손끝에서 무언가 실제로 작동하는 결과물이 만들어지는 그 과정을 정말 좋아합니다.
생성형 AI의 거대한 파도에 발을 담근 건 2023년, Stable Diffusion이 막 유행하기 시작했을 무렵이었습니다. 이전부터 게임 AI 쪽을 기웃거리긴 했지만, 지금 돌아보면 그때 시작된 변화가 모든 IT 생태계를 뿌리부터 흔들고 있는 것 같습니다.