Debes de capturar los valores de los checkbox en una varialbe y ver si estan o no marcados te doy algunas pistas para no hacerte el ejercicio yo entero:
HTML
<label>Idiomas</label>
<input type="checkbox" id="idiomas[]" value="Inglés" />Inglés
<input type="checkbox" id="idiomas[]" value="Francés" />Francés
<input type="checkbox" id="idiomas[]" value="Alemán" />Alemán
<input type="checkbox" id="idiomas[]" value="Otros" />Otros
<span id="error11"></span>
JS
var error11 = document.getElementById("error11");
var idiomas = document.getElementsByName("idiomas[]");
if(validarCheckbox(idiomas)){
error11.innerHTML = "Debes seleccionar al menos un idioma";
}
function validarCheckbox (opciones){
var checked = false;
for (var i=0; i < opciones.length; i++){
if (opciones.checked){
checked = true;
return true;
}
}
}