Empresas
Empregos
  • Sobre nós
  • Soluções
    • Publicação de vagas
      Publique sua vaga e receba candidatos qualificados em 48h.
    • Avaliações de candidatos
      Mais de 500 testes técnicos e psicológicos, mais anti-fraude.
    • Headhunting
      Busca executiva personalizada do início ao fim.
    • Folha de Pagamento + EOR
      Dispersão de folha e EOR em mais de 15 países da LATAM.
  • Preços
  • Empregos

0

138
Visualizações
Nodejs multiple thread or process crawler

First I not know much about nodejs multi thread and multi process. But i have a idea and i'm not sure the multi-thread does achieve it.

There is a api, when call it, i will generate a list, the store all web links, the list has a big length, so i split the list like this:

const list = [1, 2, 4, 5, 6, ..., 1000]
const splitList= [[1, 2, 3], [...], ,[...], [998, 99, 1000]]

Then begin crawl the links:

let i = 0
while (i < splitList.length) {
  await Promise.all(splitList[i].map(async link => {
    crawl(link)
  }))
  i++
}

The idea is:

enter image description here

Maybe This way sounds crazy, but if it works, Will save much time.

about 4 years ago · Juan Pablo Isaza
Responde à pergunta
Encontrar trabalhos remotos

Descubra a nova forma de encontrar um emprego!

melhores empregos
Principais categorias de trabalho
Empresas
Postar vaga Preços Comercial
Jurídico
Termos e Condições Política de privacidade
© 2026 PeakU Inc. All Rights Reserved.
Andres GPT
Recomende algumas ofertas para mim
Preciso de ajuda