레이블이 AI인 게시물을 표시합니다. 모든 게시물 표시
레이블이 AI인 게시물을 표시합니다. 모든 게시물 표시

cloudflare down

2025-11-18 cloudflare down
cloudflare 인프라를 사용하는 chatgpt, perplexity, cluade...등이 접속이 안된다.
이와중에 자체 인프라를 사용하는 구글의 gemini 는 잘된다.

구글은 자체 인프라가 있지만 나머지는 그렇지 못하다.
작은 회사가 급성장하면서 유명해지고 수십조를 벌었지만 수십년간 쌓아온 구글의 인프라는 짧은 시간에 채워넣을 수 없고 그래서 cloudflare 라는 회사도 같이 클 수 있었다.
어쩌면 당연한 흐름이고 이걸 탓하면 안될것 같다.

이번과 같은 인프라/클라우드로 전세계 패닉 사건은 최근 몇년간 꽤 심심치 않게 본다.


모든 것들이 클라우드로 서비스되면서 아주 커다란 크루즈에 올라탄 공동운명체가 된것 같다.
크루즈는 화려하고 편하고 좋지만 한번 사고나면 생각만해도 끔직하다.
클라우드로 대세화 되는건 거대한 흐름이지만 클라우드는 점점 더 많은 서비스가 생기고 복잡해진다.
20년전인가 암튼 오래전 클라우드라는 단어가 떠오르던 초창기만 하더라도 사내에서 원격 접속해서 사용하는 베어메탈 서버에 사원들이 각자 자기의 계정을 만들어 접속하는 형태였다.
그리고 자신의 계정에서 서비스를 올리는 형태였다.
하지만 virtualmachine, domain, loadbalancer, k8s, db, ai 까지 진짜 비지니스 로직만 신경쓰면 모든걸 클라우드가 해주는 시대가 됐다.
어떤 회사 클라우드를 사용하냐에 따라 그 사용방법을 숙지해야 되고 이것도 스펙이 된다.
이런 거대하고 복잡한 클라우드 서비스를 운영하려면 또 그만큼의 사람이 필요했고 많이 채용됐다.
그런데 코로나,ai시대를 거치면서 인력=비용이라는 문제가 발생했고 특히 북미에서는 빅테크 기업들이 필두로 해고 바람이 불었다.
1년전 쯤인가 cloudflare 직원이 해고되는 영상을 봤다.

aws, microsoft 도 기술직도 포함해 만명단위의 많은 직원을 내보냈다.
이런 기사를 볼때 처음에 아 이렇게 직원이 없어도 회사가 돌아가는 구나.
그 많은 사람들이 잉여 인력이 될 수 있구나하는 생각이 들었다.
그렇게 사람들이 내보내도 한동안 서비스에 문제가 없어 보였다.
그런데 이런 장애를 겪어 보니 어떤 사람을 내보냈고 내보낸 사람의 부재로 이런일이 발생하진 않았나 하는 생각이 든다.
어디서 본것 같은데 사람을 자를때 능력있고 우수한 직원을 내보내는게 아닌 부서단위로 전체를 내보내는 방법을 쓴다고 한다.
돈을 못버는 부서, ai 가 쉽게 대체할 수 있는 부서, 그런데 이들 부서들이 지금 보기엔 필요없을지 모르는데 한달,1년 후에 어떤 사이드 이펙트가 있을지 어떻게 모두 알까?
2025년 10월에 있었던 AWS US-EAST-1 지역 장애는 단순한 기술 결함이 아니라, 핵심 인력 유출로 인한 조직적 약화의 신호로 분석되는 말도 있다.
cloudflare 자르는 것도 그렇고 어떤 기준에 의해서 납득이 될 수 있는 이유가 있어야 하는데 너무 해고를 쉽게 한건 아닐까?
물론 ai 인간을 대체한다고 떠드는 세상이고 언제간 ai가 인간을 대신에 많은걸 대신할것은 분명해 보인다.
그래도 아직 ai가 완벽하지 않은데 잘못된 기준과 판단으로 인재들이 퇴출되고 있지는 않는지 잘 살펴야할것 같다.
해고에 모두를 만족시킬 수 있는 합당한 이유가 있을까만은 지금 천명, 만명등 숫자만 크게 부각돼 질이 아닌 양으로 비용절감만을 목표한다면 이런 전세계 장애가 아니더라도 그 회사 어딘간 탈이나고 또다른 재난의 작은 불씨가 남을것 같다.
비용절감을 위해 대부분 직원은 그냥 소모품으로 보고 ai만 바라보는 리더들은 살을 빼야지 다리는 자르는 대수술이 능사가 아니라는걸 알았으면 좋겠다.
아주 커다란 크루즈는 최첨단 항해 기능과 최신 엔진등으로 항해사, 엔지니어들의 수는 줄일 수 있지만 뛰어난 항해사 엔지니어 없이 현재 수준의 ai 가 모든걸 통제하는 배를 믿고 오를 여행객들이 얼마나 될지 생각해 보자.

중세시대의 모험가들(the medieval travelers)

중세시대의 모험가들(the medieval travelers), chatGPT 로 이미지를 생성해봤다.

요건 요즘 인기인 google aistudio > nanao banana 로 생성해본 이미지다.
해상도가 chatgpt 보다 높고 좀 밝은 콘솔 게임 느낌이 난다.

고된 여행길에 지친 몸을 모닥불에 녹이며 멍하니 타오르는 불꽃을 본다.
너무 지쳤는지 말들이 없다.
이들은 같은 목적을 가지고 여행을 하는가?
아니면 각자의 여행길에서 오늘 하루 밤을 같이 지낼 인연일 뿐일까?
chatGPT 가 만든 이미지 한장이 향수를 일으킨다.
이런 도트 이미지(픽셀 아트)는 어렸을적 도스 게임에서 많이 봤던 화면이다.
아마 스토리를 위해 게임 중간 중간에 이런 화면과 함께 현재의 진행 상태나 스토리를 알려주는 텍스트가 올라갔던것 같다.
내일 학교 가는 것도 잊은채 회복 물약을 마시고 마법,칼,지팡이로 적들을 물리치며 한발한발 나가는 그 진행이 지금의 쇼츠 처럼 중독적이었다.
몇번을 실패해도 저장된 위치 부터 다시 도전할 수 있는 안도감이 있었다.
인생도 이러면 얼마나 좋을까? 내가 실패하기전 후회될일을 생기기전으로 돌아가 다시 시작할 수 있다면 이만한 치트키도 없겠지?
누구는 인생에서 많은 실패가 있어야 한다지만 이미 실패한 경험은 초자아가 고히 간직하고 있으니 다음 세이브 지점부터 시작은 준비가 단단히 되어있다.
초자아가 나를 플레이하는 인생 게임, 이 게임의 끝이 죽음이라면 중요한건 플레이 동안의 희노애락 같은 감정들 아닐까?
정말 다시 되돌리고 싶은 되돌려야만 하는 그때가 있는데 이미 망쳐버린 게임을 난 어떻게서라도 꾸역꾸역 플레이하고 있는것 같다.
내일은 어떤 모험이 기다리고 있을까 하며 설레는 마음의 여행자가 있는 반면 어떤 여행자는 내일을 두려워한다.
두려운게 모험이라지만 누구는 좋은 칼, 튼튼한 체력, 명석한 지능으로 두려움 보다는 레벨업되는 꿈을 꾸고 이미 부상당한 이런 모험을 어쩔수 없이 따라 나선 캐릭터는 불안감에 잠을 못이룬다.
인생이 어쩜 이리 게임과 같을까? 여러 실패와 성공 경험치가 각종 능력을 키우고 레벨을 올리면서 성취를 이루는 재밌는 인생 게임을 사는 사람이 적지만 존재한다.
그리고 그들은 모험의 성공담을 광장 앞에서 대중에게 대놓고 때론 은근히 자랑을 한다.
이런 성공적인 얘기들은 하나의 전설 캐릭터를 생성하고 모두들 그를 추앙한다.
그리고 그를 왕으로 하는 왕국이 세워진다.
난 이 게임에서 데미지를 입은 나약한 플레이어다.
물약을 마셔도 치료되지 않은 치명적인 저주에 걸린 캐릭터다.
보통 판타지 영화에서는 이런 핸디캡있는 주인공이 기연을 만나 성장하거나 끊임없는 노력으로 성공하는 동화 같은 얘기를 보여 주지만, 인생은 그냥 발한번 헛디디면 낭떨어지로 게임 오버 되는 살벌한 게임이다.
여행자들의 꾹 다문 입과 무덤덤한 표정은 그냥 하는 거야 할 수 밖에 이렇게 말하고 있다.
집에 두고 온 가족의 생계를 위해 사랑하는 여인을 용으로 부터 구출하기 위해 세상의 수 많은 여행자들은 플레이어들은 저마다의 목적이 있고 그게 쉽지 않은걸 너무 잘 안다.
그냥 화이팅하자 서로를 독려하는 수준으로 안되는걸 잘 안다.
인생 게임 시작됐으니 누가 전원을 끄지 않는 이상 내가 아무것도 하지 않아도 자동 플레이 된다.
내가 원하던 게임이 아니라도 그냥 우주는 이 시간은 플레이 된다.
너무 오래 여행을 했나? 끝이 안보이는 모험길에서 오히려 빨리 게임이 끝나길 바라는건지도 모르겠다.
아 어둡다. 저 이미지를 보고 생각나는데로 적어 내려가니 저 이미지 처럼 캄캄한 밤이 되버렸다.
이 깊은 밤에 의지할건 서로와 모닥불 하나, 그래 그나마 저 모닥불 하나가 푹잠과 함께 나와 동료들을 위로한다.
저 모닥불 앞에 앉아 있는 여행자들이 어떤 기분일지는 모르지만 최소한 혼자가 아니라는 것이 같이할 누군가가 옆에 있다는 것이 부러운 가을 밤이다.

아래는 음악은 Medieval Dream 만든 pixel art 배경으로 잔잔한 중세 분위기 느낌이 물신난다.

local-ai

ollama 만 사용하고 있었는데,
https://github.com/mudler/LocalAI 를 사용하니 ai 웹서비스 형태로 구축해줘서 좋다.

# 간단하게 설치하고 바로 실행할 수 있다.
brew install localai
local-ai 

# 이제 로컬 웹으로 접속하면 모델 검색 부터 설치까지 할 수 있다.
# 채팅 외 이미미지 생성까지 사용할 수 있다.
http://localhost:8080/

nvim with ollama

# LLM 으로 프로그래밍시 도움을 받고 싶은데, 보안상 외부 서비스는 사용할 수 없고 해서
# 로컬에서 ollama 으로 llama 모델을 사용해 보자.
brew install --cask ollama

# 참고로 M1 MAX 을 사용중인데
# Llama3.3 --> 70B(parameters) 43GB(size) --> 메모리 풀 사용으로 결과 출력이 안돼 포기
# Llama3.2 --> 3B(parameters) 2.0GB(size) --> 빠르게 잘 나온다.
# Mistral --> 7B(parameters) 4.1GB(size) --> llama3.2 와 비슷한 성능

# 모델 다운로드
# 모델은 ~/.ollama/models 에 저장되고 (ollama rm 으로 지울 수 있다.)
ollama pull llama3.2
ollama pull mistral

# 참고로 터미널에서 별도 프롬프트로 사용할 경우
ollama run llama3.2

# ollama 이 떠 있는 상태에서 curl 요청하면 토큰들이 json 응답으로 온다.
curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2",
  "prompt":"Why is the sky blue?"
}'

# nvim 에서 ollama 연결을 위한 플러그인 설치(Lazy 플러그인 매니저 사용)
# 참고로 ollama 띄워져 있지 않으면 자동으로 띄운다.
# 이제 Gen 커맨드로 Ask, Change Code, Enhance Code, Review Code 등의 기능을 사용할 수 있다.
# 현재 버퍼 코드 리뷰 하는 경우
:Gen Review_Code

# 특정 부분만 코드리뷰
코드 블럭 선택:Gen Review_Code

# 한글 chat 으로 코드리뷰  
:Gen Chat > $text 코드리뷰해줘

# vscode, jetbrains 에서는 continue 를 설치하고 ollama 로 연결
# 설치 후 continue 탭에서 llama 3.2 및 localhost 를 명시한다.
# 사용 예시) review @파일명

# 한국어 사용시

지금 시점에 생각해볼 AI 미래

AI 직군에 3년간 몸담았던 기술자사 쓴 글인데, 오랫만에 정독해 봤다.


글을 보면 10년동안 많은 관심과 인기를 얻고 있는 AI에 대해서, 영화에서 나올 법한 그런 막강한 인공지능의 출현이 당분간 없을 것이고, 뭐든 가능할것 같은 인공지능에 매료돼 발을 들였던 필자는 현 시점에서 인공지능의 한계를 느끼고 약간 회의적이다.
그래, 언제부터인가 인공지능, ML(machine learning) 이라는 단어가 모두의 입에 오르내리고, 좀 더 나가 이제는 AI 가 많은 것을 해결해 줄 것이라고들 한다.
나도 이 말에 90%는 공감을 했지만 뭔가 깨름직한 10%가 항상 남아 있었는데, 그부분을 위 글에서 잘 설명해주는것 같다.
비록 실력이 그리 좋지는 않았지만 인공지능 관련 학위를 받고, 관련 업에 수년간 일한 나에게 옛날의 추억과 슬픔을 떠오르게 한다.
지금 메이저가된 DL(Deep learning)이 아닌 다른 고전적인 방법을 사용했던 나에게는 DL(사실 neural network)로 뭔가 성과를 내지 못했던것 같아 아쉬웠고, 가끔 AI 업을 다시 해보고 싶은 맘도 들게 했다.
그런데 이미 10년째 인기를 얻고 있고 많은 개발자들이 AI 일을 하고 있는 지금 시점에서,
2012년 힌트 교수가 몰고 온 신선한 충격 이벤트는, 글쎄 무덤덤해 진것일 수도 있는데, 점점 줄어 들고 있는것 같다.
마치 인터넷을 누구나 사용하는것 처럼 지금도 그렇지만 앞으로는 더 큰 장벽없이 누구나 쉽게 AI 개발을 할 수 있는 세상이 오겠지? 그런데 지금처럼 관련 종사자들의 높은 몸값이 이어질지 궁금해진다.

사족) 이런 뭔가 대세(major)와 반대되는 minor 생각들이 때론 거부감이 들지만, 적은 확률일지라도 좋은 진화를 이끌어 낼 수 있는 돌연변이 느낌이 든다.

Stanford AI 무료 강의

스탠포드 교수님의 AI 강의를 들을 수 있다~ 완전 좋은데~^^

https://www.ai-class.com/home/



Prev