Views
No views yet
!pip install transformers
!pip install einops accelerate bitsandbytes
!pip install sentence_transformers
!pip install git+https://github.com/huggingface/peft.git1from peft import PeftModel, PeftConfig
2from transformers import WhisperForConditionalGeneration,BitsAndBytesConfig
3task = "transcribe"
4language = "portuguese"
5
6nf8_config = BitsAndBytesConfig(
7 load_in_8bit=True
8)
9
10peft_model_id = "rhaymison/legal-whisper-portuguese-peft"
11peft_config = PeftConfig.from_pretrained(peft_model_id)
12model = WhisperForConditionalGeneration.from_pretrained(peft_config.base_model_name_or_path,
13 quantization_config=nf8_config,
14 device_map="auto"
15)
16model = PeftModel.from_pretrained(model, peft_model_id)1import torch
2nf4_config = BitsAndBytesConfig(
3 load_in_4bit=True,
4 bnb_4bit_quant_type="nf4",
5 bnb_4bit_use_double_quant=True,
6 bnb_4bit_compute_dtype=torch.float16
7)
8model = WhisperForConditionalGeneration.from_pretrained(peft_config.base_model_name_or_path,
9 quantization_config=nf4_config,
10 device_map="auto")1from transformers import WhisperProcessor
2processor = WhisperProcessor.from_pretrained(peft_config.base_model_name_or_path, language=language, task=task)1from pydub import AudioSegment
2audio = AudioSegment.from_wav('/content/audio.wav')
3audio = audio.set_frame_rate(16000)
4audio.export('z.wav', format='wav')1import torch
2from transformers import pipeline
3device = "cuda:0" if torch.cuda.is_available() else "cpu"
4
5pipe = pipeline(
6 "automatic-speech-recognition",
7 model=model,
8 tokenizer=processor.tokenizer,
9 feature_extractor=processor.feature_extractor,
10 max_new_tokens=128,
11 chunk_length_s=30,
12 batch_size=16, #adapter for your use case
13 return_timestamps=True,
14 torch_dtype = torch.float16
15)transcription = pipe("/content/z.wav",generate_kwargs={"language": "portuguese"})1#Nome completo? Anderson Lacerda. O senhor sofreu agressão no momento da sua prisão? Não, senhora. Tem alguma doença? Tem alguns.
2#O que o senhor tem? Pressão, diabetes. Mas o senhor toma medicação de uso controlado? Tomo. Então o senhor tem problema de pressão alta? Insulina, injetável.
3#Então, mais algumas. Coração. Então, você tem problema de pressão alta? Tem. Pressão alta e diabetes? Sim. Eu sou infartado. Tá.
4#E toma medicações pro coração. Faz tratamento. É isso? As três doenças. Ok. É... É isso? É isso Faz tratamento.
5#É isso? As três doenças. Ok. Os senhores estão aqui em razão de um mandado de prisão temporária. Contra os senhores, uma investigação por crime de tráfico de drogas.
6#O prazo de prisão dos senhores é de 30 dias inicialmente. Eventualmente, se verificar a participação dos senhores nesses delitos aí investigados, a prisão temporária pode
7#se converter em prisão preventiva, mas caso não se comprove a participação dos senhores, os senhores são colocados em liberdade. Alguma dúvida? Doutores,
8#algum requerimento, alguma dúvida? Sem requerimento. A defesa de âncio tem, excelvida. A defesa de Anderson tem excelência. Pois não, doutor.
9#A defesa de Anderson requer que haja reconhecimento da ilegalidade da prisão temporária, haja vista que, segundo a ótica defensiva, ainda existem fundamentos que a
10#posse invasar, e eu vou elencar pelo menos três aqui, que são, pelo menos, nessa ocasião, de salutar importância.
11# É bem verdade que a defesa reconhece aumento de mérito. Todavia, como dito, a defesa reconhece que não existe fundamento.
12#A lei diz que a prisão temporária vai ser decretada quando for imprescindível para as investigações, inclusive entendimento recente do Supremo Tribunal Federal.
13#é insendível para as investigações, inclusive o entendimento recente do Supremo Tribunal Federal.
14#No caso de Intela, pesava ainda em favor do meu cliente, do meu constituinte, o senhor Anderson, três mandagens de prisão, ou seja,
15#tinha três prisões preventivas decretadas pelo juízo de alujar. É importante ressaltar que no processo de alujar, excelência, houve uma operação policial,
16#meses posteriores à denúncia feita pelo próprio senhor Anderson, acerca de extorsão cometida pela equipe policial.
17#Assim sendo, Excelência, entendo a defesa que, uma vez que havia a prisão preventiva, não havia razão para essa prisão temporária,
18#aquela tinha que ser cumprida primeiro, até porque é o seguinte, uma vez cumprida na prisão preventiva, ele ficaria a serviço e
19#a disposição na Secretaria de Administração Penitenciária e qualquer unidade prisional e não na delegacia, que é justamente o
20#que a gente quer evitar. Haja vista que pesa justamente essa questão dessa possível retaliação, inclusive colocando em risco a
21#integridade física e a vida do cliente. A razão pela qual a defesa pede que a Vossa Excelência, nos termos do artigo 5º
22#a Constituição Federal, relaxe essa prisão temporária porque ela, sob essa ótica, ela é ilegal. É o que a defesa requer.
