Como señala Ben Rowe en los comentarios, el value no es un atributo válido de la etiqueta div. Y tanto la solución jQuery como la solución que usa getElementsByTagName() tienen que iterar a través de una lista, lo que es malo para el rendimiento. Creo que crear un atributo de id en su lugar es una mejor opción:

 <div id="task_row_0" class="task_row"></div>

Y luego puedes hacer:

 var div = document.getElementById("task_row_" + taskId); div.parentNode.removeChild(div);

este es el código jquery)):

 $('div').each(function(){ if($(this).attr('value') == '0'){ $(this).remove(); } });

var divs = document.getElementsByTagName('div'); for(var i = divs.length; i; i -= 1) { if (divs[i].getAttribute('value') == 0) { divs[i].parentNode.removeChild(divs[i]); } }