Intel OpenVINO简介

OpenVINO™ GenAI 提供了在Intel GPU环境生成式AI的可能,虽然当下Intel GPU的市场份额几乎可以忽略,但是毕竟价格便宜,甚至买CPU送GPU。所以贫穷让我想尝试用最便宜的硬件来实现一些简单的生成式AI。

另外, LLaMa(Large Language Model Meta AI) 可以通过 Vulkan 来驱动Intel GPU,也是一种实现思路。