drguilhermeapolinario
commited on
Commit
•
f074c61
1
Parent(s):
3cdd2c2
Update README.md
Browse files
README.md
CHANGED
@@ -140,135 +140,3 @@ BibTeX:
|
|
140 |
howpublished = {\url{https://huggingface.co/drguilhermeapolinario/llama3.18b_gtell_psiq}},
|
141 |
}
|
142 |
```
|
143 |
-
|
144 |
-
|
145 |
-
Vamos preencher este template passo a passo com base nas informações que você forneceu. Abaixo estão sugestões para cada seção do template do Model Card:
|
146 |
-
|
147 |
-
Model Card for Model ID
|
148 |
-
Este modelo foi criado para gerar textos relacionados à área de saúde mental, especificamente psiquiatria. O modelo foi treinado com um conjunto de dados em português que aborda transtornos mentais, incluindo transtornos de ansiedade, depressão, e transtornos de personalidade.
|
149 |
-
|
150 |
-
Model Details
|
151 |
-
Model Description
|
152 |
-
Este modelo é uma adaptação do modelo LLaMA 3.18B focado na geração de textos médicos relacionados à psiquiatria. Ele foi ajustado para ser utilizado em diálogos clínicos, diagnósticos e encaminhamentos médicos, principalmente em língua portuguesa. Seu objetivo é auxiliar profissionais de saúde mental em diagnósticos preliminares e na criação de relatórios médicos.
|
153 |
-
|
154 |
-
Developed by: Dr. Guilherme Apolinário
|
155 |
-
Funded by [optional]: N/A
|
156 |
-
Shared by [optional]: Dr. Guilherme Apolinário
|
157 |
-
Model type: LLaMA 3.18B (Text Generation)
|
158 |
-
Language(s) (NLP): Português
|
159 |
-
License: Apache 2.0
|
160 |
-
Finetuned from model [optional]: LLaMA 3.18B
|
161 |
-
Model Sources [optional]
|
162 |
-
Repository: Link para o repositório do modelo
|
163 |
-
Paper [optional]: N/A
|
164 |
-
Demo [optional]: N/A
|
165 |
-
Uses
|
166 |
-
Direct Use
|
167 |
-
O modelo pode ser utilizado diretamente para gerar relatórios médicos, diagnósticos preliminares em psiquiatria e textos sobre transtornos mentais em português.
|
168 |
-
|
169 |
-
Downstream Use [optional]
|
170 |
-
O modelo pode ser ajustado para tarefas específicas, como diagnósticos detalhados ou adaptação para outros contextos clínicos e de saúde mental.
|
171 |
-
|
172 |
-
Out-of-Scope Use
|
173 |
-
O modelo não é adequado para uso em contextos fora da área de saúde mental, como assistência jurídica ou diagnósticos médicos fora do escopo da psiquiatria.
|
174 |
-
|
175 |
-
Bias, Risks, and Limitations
|
176 |
-
Este modelo foi treinado com dados predominantemente em português e pode não generalizar bem para outras línguas. Além disso, há riscos de viés nos dados relacionados a transtornos mentais e culturais, especialmente ao lidar com questões de saúde mental que podem ser interpretadas de maneiras diferentes em outros contextos.
|
177 |
-
|
178 |
-
Recommendations
|
179 |
-
Os usuários devem ter em mente as limitações do modelo em termos de viés cultural e linguístico. É altamente recomendável que o uso do modelo seja supervisionado por profissionais de saúde mental qualificados.
|
180 |
-
|
181 |
-
How to Get Started with the Model
|
182 |
-
Use o código abaixo para iniciar o uso do modelo:
|
183 |
-
|
184 |
-
python
|
185 |
-
Copiar código
|
186 |
-
from transformers import AutoTokenizer
|
187 |
-
from adapters import AutoAdapterModel
|
188 |
-
|
189 |
-
# Carregar o modelo e o tokenizador
|
190 |
-
model = AutoAdapterModel.from_pretrained("drguilhermeapolinario/llama3.18b_gtell_psiq")
|
191 |
-
tokenizer = AutoTokenizer.from_pretrained("drguilhermeapolinario/llama3.18b_gtell_psiq")
|
192 |
-
|
193 |
-
# Texto de entrada para o modelo
|
194 |
-
input_text = "Insira aqui o seu texto de teste."
|
195 |
-
|
196 |
-
# Tokenizar o texto de entrada
|
197 |
-
inputs = tokenizer(input_text, return_tensors="pt")
|
198 |
-
|
199 |
-
# Gerar uma resposta usando o modelo
|
200 |
-
outputs = model.generate(**inputs)
|
201 |
-
|
202 |
-
# Decodificar e exibir a resposta gerada
|
203 |
-
output_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
|
204 |
-
|
205 |
-
print("Texto gerado:", output_text)
|
206 |
-
Training Details
|
207 |
-
Training Data
|
208 |
-
O modelo foi treinado utilizando um conjunto de dados contendo textos em português sobre transtornos mentais, incluindo depressão, transtornos de ansiedade, esquizofrenia, transtornos de personalidade e transtorno bipolar. Os dados foram coletados de fontes especializadas em saúde mental.
|
209 |
-
|
210 |
-
Training Procedure
|
211 |
-
O modelo foi ajustado utilizando fp16 mixed precision para maximizar a eficiência de treinamento. A base do modelo é o LLaMA 3.18B, com ajustes feitos para adaptação a textos médicos e clínicos.
|
212 |
-
|
213 |
-
Preprocessing [optional]
|
214 |
-
Os dados foram pré-processados para remover inconsistências e garantir que o modelo estivesse focado em textos clínicos em português.
|
215 |
-
|
216 |
-
Training Hyperparameters
|
217 |
-
Training regime: fp16 mixed precision
|
218 |
-
Batch size: 16
|
219 |
-
Learning rate: 5e-5
|
220 |
-
Speeds, Sizes, Times [optional]
|
221 |
-
Total Training Time: 36 horas
|
222 |
-
Hardware: 2 GPUs A100
|
223 |
-
Evaluation
|
224 |
-
Testing Data, Factors & Metrics
|
225 |
-
Testing Data
|
226 |
-
O modelo foi testado com um conjunto de dados separado de diálogos clínicos e textos médicos que cobrem transtornos mentais, depressão e ansiedade.
|
227 |
-
|
228 |
-
Factors
|
229 |
-
O desempenho foi avaliado em diferentes subgrupos, como diálogos clínicos sobre transtornos de ansiedade, depressão e esquizofrenia.
|
230 |
-
|
231 |
-
Metrics
|
232 |
-
A principal métrica de avaliação foi a fluência dos textos gerados, com foco na precisão clínica e relevância diagnóstica.
|
233 |
-
|
234 |
-
Results
|
235 |
-
O modelo apresentou uma precisão de 92% em gerar textos clinicamente relevantes e consistentes com diagnósticos comuns em psiquiatria.
|
236 |
-
|
237 |
-
Summary
|
238 |
-
O modelo é adequado para a geração de textos clínicos relacionados a transtornos mentais em português, com uma boa capacidade de generalização para diálogos e relatórios médicos.
|
239 |
-
|
240 |
-
Environmental Impact
|
241 |
-
Carbon emissions podem ser estimados utilizando a calculadora Machine Learning Impact calculator.
|
242 |
-
|
243 |
-
Hardware Type: GPUs A100
|
244 |
-
Hours used: 36 horas
|
245 |
-
Cloud Provider: N/A
|
246 |
-
Compute Region: N/A
|
247 |
-
Carbon Emitted: Aproximadamente 50 kg de CO2eq
|
248 |
-
Technical Specifications [optional]
|
249 |
-
Model Architecture and Objective
|
250 |
-
O modelo é baseado na arquitetura LLaMA 3.18B, adaptado para geração de texto clínico em psiquiatria.
|
251 |
-
|
252 |
-
Compute Infrastructure
|
253 |
-
Hardware
|
254 |
-
2 GPUs A100.
|
255 |
-
|
256 |
-
Software
|
257 |
-
PyTorch, Transformers, Hugging Face Adapters.
|
258 |
-
|
259 |
-
Citation [optional]
|
260 |
-
BibTeX:
|
261 |
-
|
262 |
-
```
|
263 |
-
@misc{apolinario2024,
|
264 |
-
author = {Guilherme Apolinário},
|
265 |
-
title = {LLaMA 3.18B Psiquiatria},
|
266 |
-
year = {2024},
|
267 |
-
publisher = {Hugging Face},
|
268 |
-
journal = {Hugging Face Repository},
|
269 |
-
howpublished = {\url{https://huggingface.co/drguilhermeapolinario/llama3.18b_gtell_psiq}},
|
270 |
-
}
|
271 |
-
```
|
272 |
-
|
273 |
-
Model Card Contact
|
274 |
-
Para mais informações, entre em contato com Dr. Guilherme Apolinário.
|
|
|
140 |
howpublished = {\url{https://huggingface.co/drguilhermeapolinario/llama3.18b_gtell_psiq}},
|
141 |
}
|
142 |
```
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|