Conv1D.hpp

Go to the documentation of this file.

 
#pragma once
 
#include <utility>
 
#include <Eigen/Dense>
 
#include "LayerTypes.hpp"
#include "activations/Activation.hpp"
#include "activations/ActivationParameters.hpp"
 
namespace FlexNN::Layers {
 
class Conv1D {
 public:
  explicit Conv1D(Conv1DParams p,
                  Activations::Activation act = Activations::Activation::ReLU,
                  const Activations::ActivationParameters& params = Activations::ActivationParameters{});
 
  Conv1D(int inChannels, int outChannels, int kernelSize, int stride = 1,
         int padding = 0, int dilation = 1,
         Activations::Activation act = Activations::Activation::ReLU,
         const Activations::ActivationParameters& params = Activations::ActivationParameters{});
 
  LayerType type() const noexcept { return LayerType::Conv1D; }
  Activations::Activation activation() const noexcept { return act_; }
  const Activations::ActivationParameters& activationParams() const noexcept { return actParams_; }
  const Conv1DParams& params() const noexcept { return params_; }
  const Eigen::MatrixXd& weights() const noexcept { return W_; }
  const Eigen::VectorXd& biases() const noexcept { return b_; }
 
  void setWeights(const Eigen::MatrixXd& W) { W_ = W; }
  void setBiases(const Eigen::VectorXd& b) { b_ = b; }
  void setActivationParameters(const Activations::ActivationParameters& p) { actParams_ = p; }
 
  std::pair<Eigen::MatrixXd, Eigen::MatrixXd> forward(
      const Eigen::MatrixXd& input) const;
 
  Eigen::MatrixXd backward(const Eigen::MatrixXd& nextW,
                           const Eigen::MatrixXd& nextdZ,
                           const Eigen::MatrixXd& currZ) const;
 
  Eigen::MatrixXd backward(const Eigen::MatrixXd& upstream,
                           const Eigen::MatrixXd& currZ) const;
 
  Eigen::MatrixXd propagate(const Eigen::MatrixXd& dZ) const;
 
  std::pair<Eigen::MatrixXd, Eigen::VectorXd> grad(
      const Eigen::MatrixXd& dZ, const Eigen::MatrixXd& input) const;
 
  void update(const Eigen::MatrixXd& dW, const Eigen::VectorXd& db,
              double lr) noexcept;
  void updateWeights(const Eigen::MatrixXd& dW, const Eigen::VectorXd& db,
                     double lr) noexcept {
    update(dW, db, lr);
  }
 
 private:
  // Helper: compute L_out from L_in
  int l_out(int L_in) const noexcept;
  // Helper: compute L_in from L_out (inverse, for propagate)
  int l_in_from_lout(int L_out) const noexcept;
 
  Conv1DParams params_{};
  Activations::Activation act_ = Activations::Activation::ReLU;
  Activations::ActivationParameters actParams_{};
  Eigen::MatrixXd W_; 
  Eigen::VectorXd b_; 
};
 
} // namespace FlexNN::Layers