낼름낼름 동동이

이전 글에서는 로컬 RAG를 해보려는 이유와 RAG의 기본 구조를 정리했다. 처음에는 RAG라고 하면 내 문서를 AI에게 새로 학습시키는 것처럼 생각했다. 하지만 공부해보니 RAG는 모델을 새로 학습시키는 방식이라기보다, 질문과 관련 있는 문서를 먼저 검색하고 그 내용을 LLM에게 참고 자료로 넘겨 답변하게 만드는 구조에 가까웠다. 이번 글에서는 그 구조를 직접 실험하기 위한 첫 단계로, Mac에서 로컬 LLM을 실행하는 환경을 만들어본 과정을 정리해보려고 한다. 아직 문서를 넣고 검색까지 완성한 단계는 아니다. 이번 단계의 목표는 먼저 내 Mac에서 로컬 모델이 정상적으로 실행되는지 확인하는 것이었다. Ollama를 사용한 이유로컬에서 LLM을 실행하는 방법은 여러 가지가 있지만, 처음 실험하는 입장에..

요즘 AI를 쓰다 보면 결국 한 번쯤 이런 생각을 하게 된다.“내 컴퓨터 안에 있는 파일들을 AI가 직접 읽고, 알아서 답해주면 좋겠다.” ChatGPT는 편하지만, 매번 같은 내용을 반복해서 설명해야 할 때가 있다.이전에 올렸던 파일을 계속 기억하는 것도 아니고, 업무 자료나 개인 기록처럼 민감한 문서를 외부에 업로드하는 것도 부담스럽다.그래서 문득 이런 생각이 들었다.“내 PC 안의 문서를 AI가 직접 검색해서 답하게 만들 수 있을까?” 그렇게 로컬 RAG 구축을 시작했다.거창한 서비스라기보다는, 내 컴퓨터 안의 문서를 검색해서 답변하는 작은 실험이자 삽질에 가까웠다.이번에 사용한 도구들이번 실험에서는 로컬 환경에서 AI 모델을 실행하기 위해 Ollama를 사용했다.Ollama는 Mac에서 로컬 LL..

나의 풀이1. 우선, 입력 조건을 수행하기 전 10진법을 넘는 경우 10진법 수로는 표현이 불가능하므로 이를, 대신할 수 있는 알파벳을 사용하였다.따라서 A: 10, B: 11, ..., F: 15, ..., Y: 34, Z: 35 라고 지정해주는 것을 파이썬의 딕셔너리를 활용해서 키와 밸류값으로 나누려고 하였음. 2. 근데, 하나하나 쓰는게 너무 귀찮아서 혹시나 따로 지정되어 있는 모듈이 있을까 해서 찾아봤더니 파이썬에서 제공하는 string 모듈에 ascii_uppercase, lowercase가 있어서 대문자 케이스만 따로 가져와서 각 순서별로 10에서부터 순서를 매겨 계산을 해주었다. 2.  이후에는 진법 변환을 위해 각 자리값을 가져와서 계산식을 적용해준 다음 최종 결과 값에 더해주는 형식으로 ..

8월 7일의 기록내용이 길어 나눠서 작성했고, 오늘부터는 실제 실습을 해보면서 결과를 계속 업로드 할 예정이다.목차얼마나 많은 이미지를 생성해야 하나?잘못된 이미지 수정하기어떤 모델을 사용할 것인가?새로운 모델을 학습시키는 방법부정적 프롬프트Stable Diffusion으로 인쇄용 대형 이미지를 생성하는 방법이미지의 구도를 제어하는 방법특정한 피사체 생성하기 얼마나 많은 이미지를 생성해야 할까?실행시 Batch size를 크게 할수록 생성하는 속도는 빨라지며 한 번에 많은 이미지를 뽑을 수 있다. 처음 2~4장 생성한 뒤 지속적으로 원하는 이미지가 나오는지 확인해보는 것이 중요하다.잘못된 이미지 수정AI 이미지를 생성하다보면, 특히 사람의 모습을 생성할 경우, 부자연스러운 표정이나 자세를 취한 이미지가 ..

8월 6일의 기록게임아트 딥러닝 팀 프로젝트를 좀 더 디벨롭해서 실무에 적용할 수 있을 수준까지 만들려면 어떻게 해야 할까 고민하며 Stable Diffusion에 대해서 더 공부해보기로 했다. 괜찮은 자료가 있어서 직접 참고하면서 공부를 했다.목차이미지 생성형 인공지능의 종류스테이블 디퓨전(Stable Diffusion) 이란?Stable Diffusion 사용방법은?Stable Diffusion의 장점스테이블 디퓨전으로 할 수 있는 것어떤 Stable Diffsion 서비스를 사용해야 할까?프롬프트를 잘 만들려면?Stable Diffusion 기본 파라미터이미지 생성형 인공지능의 종류이미지 생성형 인공지능(Generative AI for Image)란, 말 그대로 인공지능 중에서 이미지 생성 방면으로..

7월 05일의 기록기업 연계 프로젝트를 위해 리뷰 요약을 위해 찾아보던 중, 리뷰 요약과 관련된 모델을 자세하게 설명해둔 Github가 있어서 공부하게 되었다.Intro to Text SummarizationDefinitionBerry, Dumais, & O’Brien (1995)은 텍스트 요약을 다음과 같이 정의한다.Text summarization is the process of distilling the most important information from a text to produce an abridged version for a particular task and user 텍스트 요약이란 주어진 텍스트 중 중요한 정보만 정제해내는 과정이다. 다시 말해, 텍스트 요약이란 원문을 이해하기 쉽고..

TextRank란?문서 집합을 요약하는 방법으로 키워드와 핵심 문장을 선택하는 extractive methods를 이용할 수 있다.TextRank는 word graph나 sentence graph를 구축한 뒤, Graph ranking 알고리즘인 PageRank를 이용하여 키워드와 핵심 문장을 선택한다.Unsupervised approach의 방법으로 텍스트의 도메인 영역, 언어에 구애받지 않고 적용할 수 있는 알고리즘이다.성능 대비 간편하여 키워드 및 핵심 문장 추출에 있어서 공부할 가치가 있는 알고리즘 기본 개념 : 그래프 이론(directed, weighted)TextRank 알고리즘은 Page-rank라는 그래프 기반 랭킹 알고리즘을 텍스트에 적용한 일종의 page-rank 알고리즘의 variat..

7월 3일의 기록오늘은 딥러닝 프로젝트의 회고를 바탕으로 새롭게 개선해야할 기획을 정리해보았다. 내용을 바탕으로 Stable-Diffusion에 대해 학습을 시켜 보았고, 이는 다시 블로그에 정리할 예정이다. 1. 문제점 정의작은 예산(1인 개발자)으로 게임을 개발하는 경우 게임 아트를 만들어줄 전문 인력을 고용할 여력이 없으며, 외주를 맡길 때도 비용이 들어가는데, 이 비용이 높은 부담이 된다.1-1. 서비스 타겟 : 1인 개발자, 게임 스타트업2. 해결방안원하는 상황에 맞는 게임 아트를 즉각적으로 생성해주는 AI가 있다면 외주를 맡기거나 인력을 고용해서 이미지를 만들지 않아도 된다2-1. InputBefore : 게임 스토리 프롬프트After : 필요로 하는 이미지에 대한 설명실제 서비스를 사용할 때..