코딩의 윤슬

pip install flask flask-restful mysql-connector-python     api 서버 돌려보는건 포스트맨      파이썬에서도 파일을 따로 만들어 할 것 자바에서도 클래스 만드는것처럼 라이브러리 이름이 시작하면 클래스이다 그래서 얘도 상속받아서 해야한다파이썬에서 상속은 클래스명 괄호안에 상속할 클래스를 넣어준다     이제 경로 연결 그래서 app.py 가는 것이다          POST 방식         GET 방식       PUT 방식      DELETE방식

벡터 데이터베이스(Vector Database)는 다차원 행렬을 저장하고, 유사도 기반 검색을 수행하는 데이터베이스이다. 일반적인 관계형 데이터베이스(RDB)는 행과 열로 데이터를 저장하는 반면, 벡터 데이터베이스는 고차원 벡터 형태로 데이터를 저장한다. 텍스트, 음성, 이미지 등의 데이터를 벡터로 변환하여 저장하며, 이를 활용해 유사한 데이터를 빠르게 검색할 수 있다. 벡터 데이터베이스는 수백만, 수십억 개의 벡터 데이터를 효율적으로 저장 및 검색할 수 있도록 설계되었으며,대표적인 유사도 측정 방식으로 코사인 유사도(Cosine Similarity), 유클리디안 거리(Euclidean Distance), 내적(Dot Product) 등을 사용한다.벡터 데이터베이스는 검색 엔진, 추천 시스템, 자연어 처..

슬랙(Slack)이란? 슬랙(Slack)이란 무엇인가?슬랙(Slack)은 팀 협업 및 커뮤니케이션을 위한 클라우드 기반 메시징 플랫폼이다. 2013년에 출시되었으며, 현재는 세계적으로 많은 기업과 조직에서 팀 간 소통과 협업 도구로 사용되고 있다. 슬랙이라는 이름은 "Searchable Log of All Conversation and Knowledge"의 약자로, 대화와 지식을 모두 검색할 수 있는 기능을 제공한다는 의미를 담고 있다. 슬랙은 단순한 메신저 이상의 기능을 제공한다. 채팅을 중심으로 파일 공유, 음성 및 화상 통화, 다양한 외부 애플리케이션과의 연동 기능을 제공하여 팀원 간의 원활한 협업을 돕는다. 또한 슬랙은 API를 제공하여 개발자가 자체적인 봇이나 자동화 기능을 구현할 수 있는 확장..

1.개인LLM 로컬 기본 llm이용 llm 을 파인튜닝 llm 클라우드의 지피유 서버에서 이용-기본 llm 이용 : 서비스 제공업체가 제공하는 서버 에 api로 이용 ,(허깅페이스 파이어월크 에이아이)-파인튜닝llm 이용 서비스 제공업체의 서버에 배포해서 API로 사용 2. 회사회사의 서버에 모델을 배포해서 API 서버 개발해서 자신의 API로 제공(이걸 보통 많이씀)서비스 제공업체가 제공하는 서버에 배포해서API로 사용. api 호출 api방식 으로 하려면 번개표시가있으면 제공한다는 뜻이다.   이제 개인이하는 방법을 해보겠다. 일단 허깅페이스로 가겠다https://huggingface.co/ Hugging Face – The AI community building the future.The Home ..

허깅페이스(Hugging Face)란?  허깅페이스(Hugging Face)는 자연어 처리(NLP) 및 머신러닝(Machine Learning) 분야에서 널리 사용되는 오픈 소스 플랫폼이다. 주로 'Transformers' 라이브러리로 유명하며, 이를 통해 GPT-3, BERT, T5 등 다양한 사전 학습된(pre-trained) AI 모델을 손쉽게 활용할 수 있다. 허깅페이스는 AI 모델 허브(Model Hub)를 제공하여, 개발자들이 사전 학습된 모델을 쉽게 검색, 다운로드, 배포할 수 있도록 지원한다. 이 플랫폼은 자연어 처리뿐만 아니라, 컴퓨터 비전, 음성 인식 등 다양한 분야에서도 활용할 수 있으며, 최근에는 생성형 AI(Generative AI) 모델까지 폭넓게 제공하고 있다. 또한, 허깅페이..

라마인덱스는 기본적으로 챗지티피 모델을 쓰게 되있다. 디폴트 세팅되있음 토크나이저는 챗지티피 모델 자동 설정 되있다세팅안하면 에이피아이키 달라한다모델세팅과 토크나이저세팅은 한쌍이다그래서 계속받아 오지말고 다운받아 캐시에서 쓰라고 함수를 만든다        큰따옴표로 해야한다하지만 이렇게만 하면 똑같이 올라다 그래서 이그노어가서 깃허브 올리지 말라해줘야한다 그래야 올라 가지 않는다 import streamlit as stfrom llama_index.llms.huggingface_api import HuggingFaceInferenceAPIimport osfrom llama_index.embeddings.huggingface import HuggingFaceEmbeddingfrom llama_index.c..

LlamaIndex: RAG(Relevant Augmented Generation)용 라이브러리로, 대화형 AI에서 문서를 검색하고 활용하는 데 사용된다. LLM(대형 언어 모델)에서는 실무에서 많이 활용되며, 기본적으로 OpenAI의 ChatGPT와 ChatGPT Tokenizer를 사용한다.허깅페이스(Hugging Face)의 모델과 토크나이저도 연동할 수 있으며, mistral-7b와 all-MiniLM-L6-v2를 **Settings(설정)**을 통해 사용할 수 있다.그러나 OpenAI API를 사용할 경우, 별도의 모델 설정 없이 바로 활용 가능하다.어제 저장했던 LlamaIndex의 인덱스 데이터를 OpenAI API를 통해 활용해볼 것이다.   #PDF 턱스트 추출함수def extract_t..

라마 AI 란? Llama(Large Language Model Meta AI) Llama(Large Language Model Meta AI)는 Meta(구 Facebook)에서 개발한 특정한 대규모 언어 모델(LLM, Large Language Model)을 의미한다.LLM은 방대한 양의 텍스트 데이터를 학습해 사람처럼 자연스럽게 글을 쓰거나 대화할 수 있는 AI 모델을 말하며, Llama는 이러한 LLM의 한 종류에 해당한다.   Llama는 주로 자연어 처리(NLP, Natural Language Processing) 작업에 사용되며, 다음과 같은 다양한 작업을 수행할 수 있다. 대화형 AI: 챗봇이나 가상 비서 개발에 활용된다.텍스트 생성: 글쓰기, 스토리 생성, 콘텐츠 제작에 사용된다.번역 및..

! pip install datasets   트레인 데이터에서는 텍스트 부분을 패딩하여 토큰을 생성하고, 한 줄씩 처리하여 변환한다. 이를 map() 함수를 통해 수행한다. train_dataset.map(tokenize_function, batched=True)를 사용하면 기존 컬럼에 토큰화된 데이터가 추가된다. 만약 필요 없는 원본 컬럼을 삭제하려면 remove_columns 옵션을 활용하면 된다. 이를 통해 데이터 크기를 줄이고, 모델 학습에 필요한 정보만 유지할 수 있다.  데이터셋을 train과 test로 분할한 후, map() 함수를 사용하여 tokenize_function을 적용한다. 이 과정에서 batched=True를 설정하여 배치 단위로 처리하며, 필요 없는 text 컬럼은 remove..

인공지능가져와 학습시키기   모델 가져오기 먼저한다음 데이타를 가져오면된다 데이터를 가져오겠다    학습시킬테이터를 허깅페이스의 datasets에서 imbd테이터 가져온다 일단 가져 오려면 설치가 필요하다  ! pip install datasets    이제 토큰라이즈를 해야한다 근데 이렇게 많은데 어떻게 토큰라이지을 할까? 함수를 만들어 사용하면 된다        api를 인증해달라는 거다    로그인 해주면 이렇게 인증키를 준다 이걸 입력하면된다.    학습시키고 쪽지시험을 본다torch를 이용해 GPU사용가능 여부확인한 후 안되면 cpu로 돌아가게 해준다   새로운 문장사용하여 예측해보겠다 토큰 라이징을 해준뒤에 예측 수행을 하고 Softmax를 적용해 확률계산을 한 뒤 torch.agramax로 ..