O mini PC Geekom AX8 Pro pode ser seu servidor de IA doméstico privado perfeito

À medida que nos sentimos cada vez mais confortáveis ​​em simplesmente digitar tudo em nossos telefones e computadores, juntamente com o surgimento da IA ​​e de aplicativos como o ChatGPT, estamos absorvendo avidamente tudo o que digitamos neles.

E se pudéssemos parar com isso – talvez pudéssemos até cortar uma assinatura mensal de nossas despesas. Parece legal? Ótimo, porque hoje estamos transformando uma pequena caixa de eletrônicos da Geekom em seu próprio assistente de IA hospedado localmente.

Estamos todos cansados ​​de vazamentos de dados de grandes empresas vazando nossos dados pessoais por meio de hacks. É fácil perder a noção de quantas vezes você recebeu aquele e-mail de “altere sua senha” de uma organização que não cuidou de suas informações privadas adequadamente e todas as suas informações acabaram sendo negociadas por Bitcoin na dark web com milhões de outras pessoas azaradas.

Se não estiver sendo roubado, você terá o problema das próprias empresas coletando cada pequeno detalhe sobre você e comercializando-o para obter lucro para todos. Você leu o documento de 120 páginas dos Termos e Condições antes de clicar em Inscrever-se, não leu?

Eu, como muitos por aí, estou ficando sem saber o que fazer com todas essas travessuras, então hoje vamos privatizar pelo menos um canto das nossas vidas com a ajuda de um pequeno mini PC da Geekom.

Criando nosso próprio ‘ChatGPT’ local

Hardware

Primeiro, vamos precisar de um computador. Qualquer coisa serve, mas quanto melhor, mais rápido e, especialmente se tiver uma GPU decente, fará as coisas acontecerem mais rápido. Mas, tecnicamente, podemos tentar em qualquer coisa. Eu tinha esse ótimo mini PC – o AX8 Pro da Geekom na minha mesa esperando por um projeto adequado – então é hora de colocá-lo em bom uso e retomar algum controle

O AX8 Pro tem um poderoso AMD Ryzen 9 8945HS como cérebro, 32 GB de RAM DDR5 e um SSD de 2 TB. Agora, embora seja um mini PC sem uma GPU nVidia, ainda vamos ficar mais do que bem aqui e podemos configurar este pequeno PC como o cérebro da nossa casa. No final das contas, ele vai executar toda a minha automação residencial, bem como transformá-lo em uma Steam Machine para jogar o mais facilmente possível no meu Steam Deck. É uma caixinha e tanto, eu adoro e é hora de colocá-la para funcionar.

Você pode pegue um da Geekom aquiou confira qualquer um dos outros excelentes modelos que eles têm disponíveis.

Agora, primeiro, um grande elogio ao NetworkChuck no YouTube que me ensinou a fazer isso. Inscreva-se no canal dele para mais coisas ótimas.

Não há literalmente nenhuma vantagem em eu guiá-lo por isso de mãos dadas, pois Chuck fará isso melhor, então vamos analisar o que fiz aqui e como funciona no AX8 Pro e você pode assista ao vídeo do Chuck aqui.

A coisa toda leva literalmente cerca de 20 minutos para ser resolvida e grande parte desse tempo é esperando por downloads.

Quando terminar, diga olá ao seu novo assistente pessoal de IA que ninguém está rastreando.

Usando uma combinação do Windows 11 pré-instalado que vem com o AX-8 Pro e o Docker em execução no subsistema Linux, em menos de uma hora agora tenho uma caixa, um pouco maior que meu mouse, que hospeda meu próprio LLM na minha própria rede.

O processo no vídeo acima instala o Ollama, um LLM como um do Meta ou Google e OpenWebUI e agora tenho o AX8-Pro na minha rede acessível para qualquer um fazer login e usar para IA. Posso até mesmo configurá-lo com parâmetros para meus filhos, para que ele possa ajudá-los com o dever de casa, mas não deixá-los trapacear.

Uma pergunta padrão para meu LLM – Escolhi instalar o Llama 3.1 do Meta e recebi uma resposta em meros segundos. Parece mágica. Ainda não fiz isso, mas também instalarei o Stable Diffusion para que o hardware do Geekom possa gerar imagens para mim.

Tudo isso é hospedado localmente. Ninguém está obtendo meus detalhes e ninguém está treinando nada com base no que eu faço.

O AX8-Pro é uma caixinha de truques extremamente impressionante que pode ser facilmente usada como um dispositivo de jogos (se você moderar suas expectativas para configurações médias) ou é mais do que potente o suficiente para qualquer tarefa de escritório que você queira aplicar a ele.

De fato, ambos provavelmente parecem desperdícios, e é por isso que escolhi fazer algo um pouco mais único com eles. A CPU e a RAM estavam apenas pedindo para serem levadas um pouco mais longe do que apenas jogar uma versão abaixo do padrão do GTAV ou abrir planilhas do Excel.

Conclusão

Os mini PCs percorreram um longo caminho em um curto período de tempo e a Geekom está liderando o caminho com algumas caixinhas superinteligentes que têm potência suficiente para substituir seu desktop de trabalho ou serem empregadas em projetos úteis e divertidos como este.

Com suporte a USB4 para adicionar uma GPU externa, o AX8 Pro, embora certamente não seja o mais barato — você pode pagar cerca de US$ 1.000 pelo modelo top (embora se você usar o código AX8Readwrite na finalização da compra, você ganhará 5% de desconto no preço agora) — o retorno que você obtém pelo seu dinheiro é de outro nível, mesmo se você estiver pensando em uma opção de jogo de médio porte que pode ser tão portátil quanto você quiser?

Se você viaja muito e tem acesso às TVs comuns dos quartos de hotel, basta levar um cabo HDMI e levar o AX8 Pro com você em vez de um laptop.

Com uma boa variedade de opções de conectividade, você pode jogar praticamente tudo nele. Ele também é bem menor do que meu outro mini PC da Minisforum e vem em um lindo case azul. Já se foram os dias em que sua única opção para um PC potente era um desktop ou um laptop que pesava tanto quanto um cachorro grande. Os mini PCs são o futuro e a Geekom, com seu AX8 Pro, está atualmente no mesmo nível dos melhores deles agora.

Recursos do AX8 Pro

• AMD Ryzen 9 8945HS ou Ryzen 7 8845HS.
• AMD Radeon Gráficos 780M.
• DDR5 de canal duplo 5600MT/s, até 64 GB.
• SSD M.2 2280 PCIe Gen 4 x 4, até 2 TB.
• Ethernet 2,5G, Wi-Fi 6E e Bluetooth® 5.2.

A postagem O mini PC Geekom AX8 Pro pode ser seu servidor de IA doméstico perfeito apareceu primeiro em ReadWrite.

Source link