Comprueba que el shunt este bien conectado: un extremo va al negativo de la batería, y todo lo que iba al negativo de la batería debes conectarlo al otro extremo del shunt.
No toques la calibración. Por lo que he podido deducir, la calibración de alta tienes que hacerla a la máxima corriente (100A en tu caso), y a ver como consigues una corriente precisa de 100A...
Es normal que la medida de la corriente sea algo inestable. Ten en cuenta que el aparato mide la tensión en el shunt que son 75mV por 100A por lo tanto 0.1A son 7.5 microV. Cualquier ruido que capte hace que baile.
Una causa de que haya una medida desplazada es que uses distintos tipos de conductores para cada señal que va al medidor. Tienen que ser lo 4 iguales. Las uniones de metales distintos producen voltajes del orden de los microV (efecto termopar). Si todas las uniones son siempre con los mismos metales, se compensa el efecto.
