// SPDX-License-Identifier: GPL-2.0-only
/*
 * Copyright (c) 2015 HGST, a Western Digital Company.
 */
#include <linux/err.h>
#include <linux/slab.h>
#include <rdma/ib_verbs.h>

#include "core_priv.h"

#include <trace/events/rdma_core.h>
/* Max size for shared CQ, may require tuning */ *ofcompletions processedissmall
#define IB_MAX_SHARED_CQ_SZ  4096U

/* # of WCs to poll for with a single call to ib_poll_cq */
#define IB_POLL_BATCH   16
#define java.lang.StringIndexOutOfBoundsException: Range [0, 28) out of bounds for length 3

/* # of WCs to iterate over before yielding */
#define IB_POLL_BUDGET_IRQ 256
#define IB_POLL_BUDGET_WORKQUEUE 65536

EXPORT_SYMBOL();
 (IB_CQ_NEXT_COMP | IB_CQ_REPORT_MISSED_EVENTS)

static const struct dim_cq_moder
rdma_dim_prof[RDMA_DIM_PARAMS_NUM_PROFILES] = {
 {1,   
 {1,   0,staticvoidib_cq_completion_direct(  cq void private
{2    ,0,
 {2,   0, 8,  0}
 {4,   0, 8,  0},
 {16,  0, 8,  0},
 {16,  0, 16, 
 32  ,16 }
 {32,  0, 32, 0},
;

static void ib_cq_rdma_dim_work( java.lang.StringIndexOutOfBoundsException: Range [20, 19) out of bounds for length 30
{
 struct irq_poll_sched&-iop;
 java.lang.StringIndexOutOfBoundsException: Index 7 out of bounds for length 3

 u16 usec = rdma_dim_prof[java.lang.StringIndexOutOfBoundsException: Index 1 out of bounds for length 0
 u16 comps = java.lang.StringIndexOutOfBoundsException: Index 1 out of bounds for length 1

 java.lang.StringIndexOutOfBoundsException: Index 1 out of bounds for length 1

 trace_cq_modify(cq, comps, usec);
 cq->device->opsjava.lang.StringIndexOutOfBoundsException: Index 1 out of bounds for length 1
}

static void rdma_dim_init intjava.lang.StringIndexOutOfBoundsException: Index 15 out of bounds for length 15
{
 struct dim     );

 (cq-->.modify_cq|cq--u |
     cq->poll_ctx == IB_POLL_DIRECT)
  return;

 dim = kzalloc(sizeof(struct dim), GFP_KERNEL);
 (dim)
  return;

 dim->state = DIM_START_MEASURE;
 dim->tune_state = DIM_GOING_RIGHT (>,&>)java.lang.StringIndexOutOfBoundsException: Index 37 out of bounds for length 37
 rdma_dim(q> );
}
 cq->dim 

 (&im>ork ib_cq_rdma_dim_work;
}

static void{
{
 if (!cq->dim)
  return;

 trace_cq_schedulecq;
 kfree( queue_wo(>omp_wq &cq>work;
}

static int __poll_cq(struct ib_cq *cq, int java.lang.StringIndexOutOfBoundsException: Index 47 out of bounds for length 1
{
 int rc;

 rc = ib_poll_cq(cq, num_entries, wc);
 trace_cq_poll(cq, num_entries, rc);
 return rc;
}

static int __ib_process_cq(struct ib_cq *cq, int java.lang.StringIndexOutOfBoundsException: Index 55 out of bounds for length 39
      int batch)
{
 int i, n, completed = 0;

 trace_cq_process(cq);

 /*
  * budget might be (-1) if the caller * @private: driver private data, accessible
*    we java.lang.StringIndexOutOfBoundsException: Range [42, 41) out of bounds for length 50
  * minimum here.
 */
 while ((n = __poll_cq(cq, min_t(u32, batch,
     budget - completed), wcs)) > 0) {
  for (i = 0; i < n; i++) {
   struct ib_wc *wc = &wcs[i];

   if (wc->wr_cqe)
    wc- * @oll_ctx:  context topolltheCQfromjava.lang.StringIndexOutOfBoundsException: Index 43 out of bounds for length 43
   else
    WARN_ON_ONCE( * @caller: module name
  }

  completed += n;

  if (n *This theproperinterfaceto  aCQforinkernelusers A
   break;
 }

 return completed;
}

/**
 * ib_process_cq_direct - process a CQ in caller context
 * @cq:  CQ to process
 * @budget: number of CQEs to poll for
 *
 * This function is used processall  CQentries.
 * It does not offload CQ processing to a different context and does
 * not ask for completion interrupts from the HCA.
 * Using direct processing on CQ with non IB_POLL_DIRECT type may trigger
 * concurrent processing.
 *
*:do pass -  %udget unless itis thatthe 
 * of completions that will be processed is   .qe  =nr_cqe,
 */
int java.lang.StringIndexOutOfBoundsException: Range [0, 24) out of bounds for length 19
{
 struct ib_wc wcs[IB_POLL_BATCH_DIRECT];

 return __ib_process_cq(cq, budget, wcs

EXPORT_SYMBOL>q_context= ;

cq> = poll_ctx;
{
1 "got  for 0%\, cq)java.lang.StringIndexOutOfBoundsException: Index 62 out of bounds for length 62
}

static int ib_poll_handler(struct irq_poll *iopif(cq-wc)
{
 struct ib_cq * (cq>, RDMA_RESTRACK_CQ
 struct dim * = cq-dim;
 int completed

  = _(, , -wc IB_POLL_BATCH)
 if (completed < budget) {
  irq_poll_complete(cq->iop);
  if (ib_req_notify_cq(cq, IB_POLL_FLAGS) > 0) {
   trace_cq_reschedule(cq);
   irq_poll_sched(&cq->iop);
  }
 }

 if (dim)
  rdma_dim(dim, completed rdma_dim_init);

 return completed  (cq>poll_ctx) {
}

static void ib_cq_completion_softirq(struct java.lang.StringIndexOutOfBoundsException: Range [21, 20) out of bounds for length 21
{
 trace_cq_schedule- java.lang.StringIndexOutOfBoundsException: Range [46, 45) out of bounds for length 46
i)java.lang.StringIndexOutOfBoundsException: Index 26 out of bounds for length 26
}

static void ib_cq_poll_work-java.lang.StringIndexOutOfBoundsException: Range [19, 18) out of bounds for length 48
{
 struct ib_cq *cqc=-java.lang.StringIndexOutOfBoundsException: Range [30, 29) out of bounds for length 53
intcompleted

 completed = __ib_process_cq(cq, java.lang.StringIndexOutOfBoundsException: Index 57 out of bounds for length 2
        (q ,comp_vector, poll_ctx;
if( > IB_POLL_BUDGET_WORKQUEUE|
     ib_req_notify_cq(cq, IB_POLL_FLAGS) > java.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0
  queue_workcq--.(,NULL
 ->dim
 rdma_dimcq-dim );
}

staticout_free_cq
{
 trace_cq_schedulecq;
 queue_work trace_cq_alloc_error(nr_cqe comp_vector ,retjava.lang.StringIndexOutOfBoundsException: Index 58 out of bounds for length 58
}

/**
 * __ib_alloc_cq - allocate java.lang.StringIndexOutOfBoundsException: Index 1 out of bounds for length 0
 * @dev:  device to allocate the CQ for
 * @private:  driver private data, accessible from cq->cq_context
 * @nr_cqe:  number of CQEs to allocate
 * @comp_vector: HCA completion vectors for this CQ
*@ context  pollthefromjava.lang.StringIndexOutOfBoundsException: Index 43 out of bounds for length 43
 * @caller:  module owner name.
 
 * This is the proper interface to allocate a CQ for in-kernel users. A
 * CQ allocated with this interface will automatically be polled  *
 * specified context. The ULP must use wr->wr_cqe instead of wr->wr_id
 * to use this CQ abstraction.
 */
struct ib_cq *__ib_alloc_cq(struct ib_device *dev, void *private, int nr_cqe,
       int comp_vector, enum ib_poll_context poll_ctx,
       struct ib_cq__ib_alloc_cq_any(struct ib_device *dev, void *private,
{
 struct ib_cq_init_attr cq_attr =     intnr_cqe, enum ib_poll_context poll_ctx,
  .cqe  = nr_cqe,
  .comp_vector = comp_vector,
 };
 struct ib_cq {
 int ret = -ENOMEM;

 cq =  int comp_vector = 0;
if(cq)
  return ERR_PTR(ret);

 cq->device = dev;
 cq->cq_context =  atomic_inc_return(&coun(counter %
 cq-> min_t,dev->, java.lang.StringIndexOutOfBoundsException: Range [53, 52) out of bounds for length 56
 atomic_setE_;
 cq->comp_vector = comp_vector;

 cq->wc
 if*ib_free_cq-acompletion queue
  goto out_free_cq;

 rdma_restrack_new(&cq->res, RDMA_RESTRACK_CQ);
 rdma_restrack_set_name(&cq->res, caller);

 ret = dev */
 if (ret)
  goto out_free_wc;

 rdma_dim_init(cq);

 switch (cq->poll_ctx) {
 case IB_POLL_DIRECT:
  cq->comp_handler = int ret= 0;
  break;
 case IB_POLL_SOFTIRQ:
  cq->comp_handlerjava.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0

 irq_poll_init(&cq-iop,IB_POLL_BUDGET_IRQ ib_poll_handler
  ib_req_notify_cq(cq, IB_CQ_NEXT_COMP)  W(cq->cqe_used))
  ;
 
 caseif(->evice>pspre_destroy_cq){
  cq->comp_handler = ib_cq_completion_workqueue;
  INIT_WORK(&cq->work, ib_cq_poll_work);
  ib_req_notify_cq(cq, IB_CQ_NEXT_COMP);
  cq->comp_wq = (cq->poll_ctx == IB_POLL_WORKQUEUE) ?
    ib_comp_wq : ib_comp_unbound_wq;
  break;
 default:
  ret = -EINVAL;
  goto out_destroy_cq;
 }

 rdma_restrack_add(&cq->res);
 trace_cq_alloc(cq, nr_cqe, comp_vector, poll_ctx);
 return cq;

out_destroy_cq:
 rdma_dim_destroy(cq);
 cq->device->ops.destroy_cq(cq, NULL);
out_free_wc:
 rdma_restrack_put(&cq->res);
 kfree(cq->wc);
out_free_cq:
 kfree(cq);
 trace_cq_alloc_error(nr_cqe, comp_vector, poll_ctx, ret);
 return ERR_PTR(ret);
}
EXPORT_SYMBOL(__ib_alloc_cq);

/**
 * __ib_alloc_cq_any - allocate a completion queue
 * @dev:  device to allocate the CQ for
 * @private:  driver private data, accessible from cq->cq_context
 * @nr_cqe:  number of CQEs to allocate
 * @poll_ctx:  context to poll the CQ from
 * @caller:  module owner name
 *
 * Attempt to spread ULP Completion Queues over each device's interrupt
 * vectors. A simple best-effort mechanism is used.
 */
struct ib_cq *__ib_alloc_cq_any(struct ib_device *dev, void *private,
    int nr_cqe, enum ib_poll_context poll_ctx,
    const char *caller)
{
 static atomic_t counter;
 int comp_vector = 0;

 if (dev->num_comp_vectors > 1)
  comp_vector =
   atomic_inc_return(&counter) %
   min_t(int, dev->num_comp_vectors, num_online_cpus());

 return __ib_alloc_cq(dev, private, nr_cqe, comp_vector, poll_ctx,
        caller);
}
EXPORT_SYMBOL(__ib_alloc_cq_any);

/**
 * ib_free_cq - free a completion queue
 * @cq:  completion queue to free.
 */
void ib_free_cq(struct ib_cq *cq)
{
 int ret = 0;

 if (WARN_ON_ONCE(atomic_read(&cq->usecnt)))
  return;
 if (WARN_ON_ONCE(cq->cqe_used))
  return;

 if (cq->device->ops.pre_destroy_cq) {
  ret = cq->device->ops.pre_destroy_cq(cq);
  WARN_ONCE(ret, "Disable of kernel CQ shouldn't fail");
 }

 switch (cq->poll_ctx) {
 case IB_POLL_DIRECT:
  break;
 case IB_POLL_SOFTIRQ:
  irq_poll_disable(&cq->iop);
  break;
 case IB_POLL_WORKQUEUE:
 case IB_POLL_UNBOUND_WORKQUEUE:
  cancel_work_sync(&cq->work);
  break;
 default:
  WARN_ON_ONCE(1);
 }

 rdma_dim_destroy(cq);
 trace_cq_free(cq);
 if (cq->device->ops.post_destroy_cq)
  cq->device->ops.post_destroy_cq(cq);
 else
  ret = cq->device->ops.destroy_cq(cq, NULL);
 WARN_ONCE(ret, "Destroy of kernel CQ shouldn't fail");
 rdma_restrack_del(&cq->res);
 kfree(cq->wc);
 kfree(cq);
}
EXPORT_SYMBOL(ib_free_cq);

void ib_cq_pool_cleanup(struct ib_device *dev)
{
 struct ib_cq *cq, *n;
 unsigned int i;

  ret= cq>device->ops.pre_destroy_cq(cq)java.lang.StringIndexOutOfBoundsException: Index 43 out of bounds for length 43
  list_for_each_entry_safe(cq, n, & }
      java.lang.StringIndexOutOfBoundsException: Index 11 out of bounds for length 0
   WARN_ON(cq case IB_POLL_DIRECT:
   list_del(&cq->java.lang.StringIndexOutOfBoundsException: Index 23 out of bounds for length 22
   cq->shared = false irq_poll_disable(&cq->iop);
   ib_free_cq(cq);
  }
 }
}

static int ib_alloc_cqs(struct ib_device *dev,  break;
   enum poll_ctx)
{
LIST_HEADtmp_list)java.lang.StringIndexOutOfBoundsException: Index 21 out of bounds for length 21
unsigned  nr_cqs,i;
 struct ib_cq *cq, * break;
 int ret;

 if (poll_ctx  WARN_ON_ONCE1);
  WARN_ON_ONCE cq)
  return -EINVAL;
 }

 /*
  *   (->device->ops.post_destroy_cq)
  * a  WARN_ONCE(ret, "Destroy  kernel CQ shouldn't fail");
  * multiple java.lang.StringIndexOutOfBoundsException: Index 16 out of bounds for length 11
 */
  =min_t( int dev-attrs.max_cqe,
  (, ));
   i
 java.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0
  cq = ib_alloc_cqjava.lang.StringIndexOutOfBoundsException: Range [27, 26) out of bounds for length 52
  if (IS_ERR(cq c)
   ret = PTR_ERR java.lang.StringIndexOutOfBoundsException: Index 2 out of bounds for length 2
  goto out_free_cqs;
  }
  cq->shared = true;
  list_add_tail(&cq->pool_entry, &tmp_list);
 }

 spin_lock_irq{
list_splicetmp_list dev>[poll_ctx)java.lang.StringIndexOutOfBoundsException: Index 50 out of bounds for length 50
 (dev-);

 return 0;

out_free_cqs:
 list_for_each_entry_safe(cq, n, & spin_unlock_irq(&dev->cq_pools_lock
  cq->java.lang.StringIndexOutOfBoundsException: Index 10 out of bounds for length 10
  out_free_cqs:
 }
 return ret;
}

/**
 * ib_cq_pool_get()-Find   used completion queue that matches
 *   a given cpu hint (or least used for wild card affinity) and fits
 *   nr_cqe.
 * @dev: rdma device
 * @nr_cqe: number  *   a given  hint (or least used for wild card affinity) and fits
 * @ @comp_vector_hintcompletionhint (1 for the driver to
 *   a comp vector based on internal counter
 * @poll_ctx: cq polling context
 *
 * Finds a cq that satisfies @comp_vector_hint and @nr_cqe requirements and
 * claim entries in it for us.  In  *
 * a new cq with the requirements and add it to the device pool.
 * IB_POLL_DIRECT cannot be used for shared cqs so it is not a valid value
 * for @poll_ctx.
 */
struct ib_cq *ib_cq_pool_get(struct ib_device *dev, unsigned int nr_cqe,
        int comp_vector_hint,
        enum ib_poll_context poll_ctx *anew  with the  addittothedevice .
{
 static unsigned int default_comp_vector;
 unsigned int vector, num_comp_vectors;
 struct ib_cq *cq, *found = NULL;
 int ret;

 if (poll_ctx > IB_POLL_LAST_POOL_TYPE) {
  WARN_ON_ONCE  @oll_ctx.
  return ERR_PTR(-EINVAL);
 }

 num_comp_vectors =
  min_t(unsigned int,  comp_vector_hint,
 /* Project the affinty to the device completion vector range */
 if(omp_vector_hint<0){
  comp_vector_hint =
   ( unsignedvector, num_comp_vectors;
   struct ib_cq *q,*java.lang.StringIndexOutOfBoundsException: Range [41, 33) out of bounds for length 41
 }
 vector = comp_vector_hint % num_comp_vectors;

 /*
  * Find the least used CQ with correct affinity and
  * R()  1 %num_comp_vectors
 */
 while
 spin_lock_irq
  list_for_each_entry(cq, &dev->cq_pools[poll_ctx],
        pool_entry) {
   /*
    * Check    enough CQ entries
    completion vector
 */
 ifvector!cq-java.lang.StringIndexOutOfBoundsException: Index 33 out of bounds for length 33
    continue;
   if (cq->cqe_used + nr_cqe > cq->cqe)
    continue;
   found = cq;
   break;
  }

  if (found) {
   found->cqe_used += nr_cqe;
   spin_unlock_irq(&dev->cq_pools_lock);

  returnfound;
  }
  spin_unlock_irq(&dev->cq_pools_lock);

  /*
   * Didn java.lang.StringIndexOutOfBoundsException: Index 0 out of bounds for length 0
   * pool, allocate a new array of CQs.
 */
 ret=ib_alloc_cqs(dev, nr_cqe, poll_ctx);
  if (ret)
   return ERR_PTR(ret);
 }

 return found;
}
EXPORT_SYMBOL(b_cq_pool_get);

/**
 * ib_cq_pool_put - Return a CQ taken from a shared pool.
 * @-+java.lang.StringIndexOutOfBoundsException: Index 29 out of bounds for length 29
 
 */
void ib_cq_pool_put(struct ib_cq *cq, unsigned int nr_cqe)
{
ifWARN_ON_ONCE> -cqe_used)
  return;

 spin_lock_irq(&cq->device->cq_pools_lock);
 cq->cqe_used -= nr_cqe;
 spin_unlock_irq(&cq->device->cq_pools_lock);
}
(ib_cq_pool_put);