Ollama 사용법 블로그 작성Ollama란?Ollama는 오픈소스 LLM(대형 언어 모델)을 로컬 PC에서 쉽게 실행할 수 있게 해주는 도구입니다. 이를 통해 GPT와 같은 LLM 모델을 인터넷 연결 없이 로컬에서 구동할 수 있으며, 사용자가 원하는 모델을 직접 만들어서 활용할 수 있습니다.주요 특징1. 인터넷 연결 없이도 구동 가능2. 사용자가 원하는 모델을 직접 만들어 사용 가능3. 서버에 실행시켜 API를 제공• HTTP 요청을 통해 요청/응답 처리 가능사용해보고자 하는 이유프로젝트에서 LLM 모델이 필요한 상황에서, 유료 서비스인 OpenAI를 사용하지 않고 서버 자원을 활용해 ollama와 서버 간 통신을 통해 사용자의 요청에 대한 응답을 제공하려고 합니다. 예를 들어:•..
Server
in Ubuntu 22.04 LTS우분투에 도커 설치하기1. 설치sudo apt-get updatesudo apt-get install apt-transport-https ca-certificates curl gnupg-agent software-properties-commoncurl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"sudo apt-get updatesudo apt-get install docker-ce docker-c..
nodejs 리눅스에 원하는 버전 설치하는 방nvm (노드 버전매니저) 깔아서 하면 원하는 버전 골라가며 바꿀 수 있지만지금 서버에는 버전 하나만 필요하고 그냥 설치만 하길 원함1. 원하는 버전 찾기일단 노드파일저장소 에서 원하는 노드 버전을 찾는다. 원하는 버전 디렉토리 링크 들어간 후 ...linux-x64.tar.gz 로 끝나는 파일 찾는다.해당 경로와 파일명 복사한다.https://nodejs.org/dist/v10.24.0/node-v10.24.0-linux-x64.tar.gz#https://nodejs.org/dist/디렉토리/파일명 2. 리눅스에 설치1. 노드 파일 다운받고 압축 풀기아까 찾은 url 경로 를 이용해서 다운받는다.(디렉토리 위치는 상관 없음 작성 가능한 곳이기..
우분투 내부망 아이피 변경방법 정리리눅스 종류마다 아이피 설정 방법이 다름 네트워크 세팅을 위해 루트 권한으로 /etc/netplan 으로 이동 후00-installer-config.yaml 파일 편집 (없다면 touch 로 생성 후 편집)# This is the network config written by 'subiquity'network: ethernets: eth0: addresses: [192.168.10.17/24] gateway4: 192.168.10.1 nameservers: addresses: [8.8.8.8] version: 2 위 내용은 아래 route 명령어의 결과로 나온 주소를 적는다address 에는 바꾸고자 하는 아이피 주소 위..
