Tu favicon está en project_root > public > favicon.ico.

 | `--- public | `--- favicon.ico

Eliminarlo es difícil ya que el navegador generalmente usa un favicon almacenado en caché si no encuentra nada.

Te recomiendo que lo cambies. Simplemente reemplace el archivo favicon.ico con una imagen de su elección. Incluso puede cambiar el nombre de un png a favicon.ico y usarlo. Asegúrate de hacer una actualización completa. Tienes que explotar el caché para ver ese cambio.

Si quiere participar en esto, genere un favicon usando https://www.favicon-generator.org/

Prueba esto:-

Cambie <link rel="shortcut icon" href="%PUBLIC_URL%/favicon.ico" /> a

 <link rel="shortcut icon" href="/a.png" /> which should be not present by the way or try deleting the favicon

Debe hacer todo lo anterior (o lo siguiente), pero también debe borrar su historial de navegación.