Pi = Raspberry Pi. Es un microordenador.
Simplifiquemos el problema: nos olvidamos del gps, de la pi o del sensor del viento. De momento no los necesitas, salvo para hacer otras cosas.
Incluso yo me olvidaría del IMU. A lo mejor tampoco es necesario.
El movimiento en el barco es sencillo, puesto que nos podemos olvidar de una de las dimensiones, el eje Z. Si tenemos movimiento en el Z, empezaría a buscar la balsa salvavidas o un paracaídas en función del sentido del movimiento
Por tanto, primero probaría únicamente con un compás, en lugar de con un IMU que te mide los 3 ejes(X,Y,Z).
Quizás cada uno ve el problema en lo que más desconoce. En mi caso, la conexión al timón no sé con qué la harías.
Probablemente, para lo que quieres hacer ni siquiera tienes que calibrar el compás, puedes partir de un modelo que suponga que el compás te da una medición perfecta o incluso aunque no lo sea, que el error es constante en cualquier rumbo, o bien, constante en el rumbo que deseas seguir.
Prueba el sketch, con diferentes intensidades de viento y mar, y en cualquier rumbo, menos en popa redonda.
Si algo falla, evalúa si es debido a errores en el sketch o que la suposición sobre el error del compás no es del todo correcta. En tal caso, prueba a aplicarle un filtro kalman a las lecturas de la brújula.
Corrige luego el scketch aplicando el filtro. Si sigue sin funcionar, necesitarás un IMU para obtener mejores mediciones y mandar las instrucciones apropiadas a los motores que mueven el timón.
P.D.: te hablo desde el más absoluto desconocimiento de si esta solución te podría funcionar, pero es lo que yo haría.