http://www.qcustomplot.com/documentation/c...9761348b2d8c891
Здесь не нашёл, возможно механизм рисования сетки кроется где-то глубже, наподобие QBrush

Смотри комментарии к методам класса в файле qcustomplot.cpp

  customPlot->yAxis->setVisible(true);
  customPlot->yAxis->setAutoTicks(false);
  //customPlot->yAxis->setAutoTickLabels(false);
  customPlot->yAxis->setTickVector(QVector<double>());
  //customPlot->yAxis->setTickVectorLabels(QVector<QString>());
  //customPlot->yAxis->setAutoSubTicks(false);
  //customPlot->yAxis->setSubTickCount(0);

Аналогично для xAxis, yAxis2, xAxis2.

Спасибо, понял что нужно копать в сторону QCPAxis. Правильный ответ оказался проще:
customPlot->yAxis->grid()->setVisible(false);