Update README.md

README.md

@@ -9,7 +9,8 @@ registros).
 
 ## Dataset Modificado
 
-Uma cópia modificada do dataset pode ser encontrada em [blogsetbr-modificado.csv](blogsetbr-modificado.csv) (7.468.541 registros). Foi modificado:
+Uma cópia modificada do dataset pode ser encontrada em [blogsetbr-modificado.csv](blogsetbr-modificado.csv) (7.468.541
+registros). Foi modificado:
 
 - Remoção de registros duplicados e com problemas de escape (9.312 registros removidos).
 - Adicionado um cabeçalho ao arquivo.
@@ -33,7 +34,7 @@ No meu caso, carreguei os dados em um banco de dados Postgres para manipulação
 Primeiramente, crie o banco de dados:
 
 ```
-create database blogsetbr_exemplos owner myuser;
+CREATE DATABASE blogsetbr_exemplos;
 ```
 
 Conectando ao banco de dados criado:
@@ -45,16 +46,16 @@ Conectando ao banco de dados criado:
 Criando uma tabela baseada no cabeçalho do arquivo CSV:
 
 ```
-create table posts (
-  post_id text primary key,
-  blog_id text,
-  published text,
-  title text,
-  content text,
-  author_id text,
-  author_displayName text,
-  replies_totalItems text,
-  tags text
+CREATE TABLE posts (
+  post_id TEXT PRIMARY KEY,
+  blog_id TEXT,
+  published TEXT,
+  title TEXT,
+  content TEXT,
+  author_id TEXT,
+  author_displayName TEXT,
+  replies_totalItems TEXT,
+  tags TEXT
 );
 ```
 
@@ -67,5 +68,27 @@ Realizando a carga do arquivo para a tabela recém criada:
 Checando a quantidade de registros após a cópia:
 
 ```
-select count(*) from posts;
+SELECT COUNT(*) FROM posts;
+```
+
+## Embeddings das Postagens
+
+Também neste repositório encontra-se um dump de uma base Postgres em [blogsetbr-dump](blogsetbr-dump) (~40GB). O dump
+contém uma única tabela, baseada no schema da seção anterior com a adição da seguinte coluna:
+
+```
+ALTER TABLE posts ADD COLUMN embedding vector(1024); -- instale e habilite a extensão "pgvector" para que o tipo "vector" funcione
+```
+
+O dump contém todos os **7,4 milhões de registros (tanto seu texto quanto seu embedding)**.
+
+Os embedding foram gerados com a biblioteca [SentenceTransformers](https://sbert.net) e o modelo
+`mixedbread-ai/mxbai-embed-large-v1`. Segue abaixo um exemplo de como gerar um embedding para um texto qualquer
+utilizando a mesma biblioteca e o mesmo modelo:
+
+```py
+from sentence_transformers import SentenceTransformer
+ 
+model = SentenceTransformer('mixedbread-ai/mxbai-embed-large-v1')  # ocupa ~1GB de VRAM
+embedding = model.encode('Olá mundo!')  # um array NumPy de 1024 valores float32
 ```