.. _gpt_startup:

===================
GPT快速起步
===================

GPT 是 ``Generative pre-trained transformers`` 的缩写，中文意思是 ``基于转换器的生成式预训练模型`` ，是一种 :ref:`llm` ，也是 ``生成式人工智能`` (AIGC)的重要框架。

.. note::

   2023年最后几天，这一年OpenAI引发的GPT爆炸，但是仍然迷雾重重: 网上围绕GPT技术充斥着大量的 "正确的废话" 。我依然 "踽踽独行" ，试图再多掌握一些AI技能...

ChatGPT 的惊人能力来源
=======================

ChatGPT本质上是一个 ``大型语言模型`` **Large Language Models** ( :ref:`llm` )，通过 **革命性的自注意力机制** ( ``self-attention mechanism`` )进行训练，然后通过 :ref:`rlhf` 来

参考
======

- `Wikipedia: GPT <https://zh.wikipedia.org/zh-hans/GPT>`_

  - `WikiPedia: 基于转化器的生成式预训练模型 <https://zh.wikipedia.org/zh-hans/%E5%9F%BA%E4%BA%8E%E8%BD%AC%E6%8D%A2%E5%99%A8%E7%9A%84%E7%94%9F%E6%88%90%E5%BC%8F%E9%A2%84%E8%AE%AD%E7%BB%83%E6%A8%A1%E5%9E%8B>`_
  - `WikiPedia: ChatGPT <https://zh.wikipedia.org/zh-hans/ChatGPT>`_

- `How ChatGPT Works: The Model Behind The Bot <https://towardsdatascience.com/how-chatgpt-works-the-models-behind-the-bot-1ce5fca96286>`_