Empresas
Empregos
  • Sobre nós
  • Soluções
    • Publicação de vagas
      Publique sua vaga e receba candidatos qualificados em 48h.
    • Avaliações de candidatos
      Mais de 500 testes técnicos e psicológicos, mais anti-fraude.
    • Headhunting
      Busca executiva personalizada do início ao fim.
    • Folha de Pagamento + EOR
      Dispersão de folha e EOR em mais de 15 países da LATAM.
  • Preços
  • Empregos

0

288
Visualizações
Write pyspark dataframe into s3 - An error occurred while calling o135.json

I have a DataFrame and I'd like to save the results as CSV inside my s3 directory called mydirectory : s3n://bucket/home/mydirectory/result.csv

In mydirectory I have the right to read and write.

However I have this error :

File "C:\Users\rubeno\Documents\spark-2.1.0-bin-hadoop2.7\python\lib\py4j-0.10.4-src.zip\py4j\protocol.py", line 319, in get_return_value
py4j.protocol.Py4JJavaError: An error occurred while calling o135.json.
: org.apache.hadoop.security.AccessControlException: Permission denied: s3n://bucket/home

Here is my code to write and save the df program_watched_by_set_of_box

program_watched_by_set_of_box.write.save(path='s3n://bucket/home/mydirectory/result.csv',
                         format='com.databricks.spark.csv',
                         header='false',
                         nullValue='null',
                         mode='overwrite')

Thx

over 4 years ago · Santiago Trujillo
1 Respostas
Responde à pergunta

0

check EMR configurations if fs.s3.enableServerSideEncryption is set to True. You can set below option with emr create-custer

--configurations '[{"Classification":"emrfs-site","Properties":{"fs.s3.enableServerSideEncryption":"true"},"Configurations":[]}]'
over 4 years ago · Santiago Trujillo Relatório
Responde à pergunta
Encontrar trabalhos remotos

Descubra a nova forma de encontrar um emprego!

melhores empregos
Principais categorias de trabalho
Empresas
Postar vaga Preços Comercial
Jurídico
Termos e Condições Política de privacidade
© 2026 PeakU Inc. All Rights Reserved.
Andres GPT
Recomende algumas ofertas para mim
Preciso de ajuda