该站未曾设置keywords

童虎AIwww.dohkoai.com于2024-10-25 13:16:44由该站站长自助申请提交或根据来路被便民库自助收录，便民库仅展示童虎AIwww.dohkoai.com网站的基础信息，www.dohkoai.com的IP地址：120.55.36.52 [中国浙江杭州 阿里云]，www.dohkoai.com的百度权重为1、百度手机权重为0、百度收录为0条、360收录为0条、搜狗收录为0条、谷歌收录为0条、百度来访流量大约在49之间、百度手机端来访流量大约在31之间、www.dohkoai.com的备案号是登录可见、备案人叫登录可见、被百度收录的关键词有37个、手机端关键词有1个、迄今为止已经创建4年1个月11天。

如此站不想被收录或存在违法违规内容，请联系我们删除

童 虎 A I 首 页 数 学 建 模 常 规 算 法 神 经 网 络 程 序 设 计 登 录 注 册 动 态 规 划 解 决 背 包 问 题 背 包 问 题 （ K n a p s a c k p r o b l e m ） 是 一 种 组 合 优 化 的 N P 完 全 （ N P C o m p l e t e ， N P C ） 问 题 。 问 题 可 以 描 述 为 ： 给 定 一 组 物 品 ， 每 种 物 品 都 有 自 己 的 重 量 和 价 格 ， 在 限 定 的 总 重 量 内 ， 我 们 如 何 选 择 ， 才 能 使 得 物 品 的 总 价 格 最 高 。 N P C 问 题 是 没 有 多 项 式 时 间 复 杂 度 的 解 法 的 ， 但 是 利 用 动 态 规 划 ， 我 们 可 以 以 伪 多 项 式 时 间 复 杂 度 求 解 背 包 问 题 。 常 规 算 法 隐 马 尔 科 夫 链 H M M 详 解 隐 马 尔 科 夫 链 H M M 广 泛 用 于 语 音 识 别 ， 中 文 分 词 等 序 列 标 注 领 域 等 领 域 ， 通 过 平 稳 性 设 定 ， 引 入 随 机 过 程 在 时 间 维 度 上 独 立 性 ， H M M 一 种 生 成 式 模 型 ， 具 有 较 好 拟 合 性 。 隐 马 尔 科 夫 链 一 般 涉 及 评 估 问 题 、 解 码 问 题 、 学 习 问 题 三 种 类 型 的 解 决 方 案 。 常 规 算 法 利 用 均 匀 分 布 生 成 其 他 分 布 随 机 数 、 蒙 特 卡 罗 方 法 原 理 需 要 利 用 计 算 机 生 成 指 定 连 续 分 布 的 随 机 数 ， 比 如 指 数 分 布 、 正 态 分 布 、 伽 马 分 布 等 ， 一 般 我 们 会 用 相 同 数 量 的 [ 0 , 1 ] 之 间 均 匀 分 布 的 随 机 数 去 生 成 其 他 形 式 连 续 分 布 随 机 量 ， 而 针 对 生 成 正 态 随 机 数 我 们 有 中 心 极 限 定 理 的 存 在 ， 可 以 更 方 便 的 生 成 。 数 学 建 模 梯 度 法 、 模 式 搜 索 法 求 解 最 优 化 问 题 ​ 最 优 化 问 题 中 常 常 需 要 求 解 目 标 函 数 的 最 大 值 或 最 小 值 ， 比 如 S V M 支 持 向 量 机 算 法 需 要 求 解 分 类 之 间 最 短 距 离 ， 神 经 网 络 中 需 要 计 算 损 失 函 数 的 最 小 值 ， 分 类 树 问 题 需 要 计 算 熵 的 最 小 或 最 大 值 等 等 。 根 据 目 标 函 数 是 否 可 求 导 将 算 法 相 应 的 分 成 两 类 ， 如 果 目 标 函 数 可 求 导 常 用 梯 度 法 ， 如 果 不 能 求 导 时 一 般 选 用 模 式 搜 索 方 式 ， 一 般 来 说 梯 度 法 较 为 快 速 且 收 敛 较 快 ， 本 篇 还 是 会 结 合 具 体 程 序 来 讨 论 这 两 种 方 法 常 规 算 法 A p r i o r i 算 法 、 朴 素 贝 叶 斯 分 类 概 率 学 分 为 两 大 学 派 分 别 是 频 率 派 也 称 为 古 典 概 率 学 和 贝 叶 斯 学 派 ， 频 率 派 认 为 一 个 事 件 发 生 的 频 率 等 于 其 概 率 ， 这 在 许 多 场 合 下 是 正 确 的 ， 并 且 根 据 大 数 定 律 可 以 描 述 为 事 件 发 生 的 频 率 依 概 率 收 敛 于 一 个 数 值 ， 这 说 明 频 率 派 认 为 概 率 是 一 个 具 体 数 值 ， 比 如 扔 一 枚 硬 币 在 次 数 足 够 多 的 情 况 下 硬 币 为 正 面 的 概 率 等 于 硬 币 为 正 面 频 率 ； 而 贝 叶 斯 学 派 认 为 概 率 是 一 个 分 布 ， 这 个 分 布 依 赖 于 观 察 值 而 变 化 常 规 算 法 利 用 线 性 空 间 、 子 空 间 实 现 线 性 回 归 问 题 线 性 回 归 有 许 多 建 模 方 法 可 以 解 决 ， 比 如 最 小 二 乘 法 、 神 经 网 络 等 ， 本 篇 介 绍 基 于 线 性 代 数 利 用 向 量 、 空 间 概 念 快 速 求 解 线 性 回 归 问 题 ， 掌 握 本 章 知 识 点 后 可 以 利 用 有 些 结 论 解 决 如 函 数 逼 近 问 题 。 数 学 建 模 多 项 式 逼 近 连 续 函 数 拓 展 子 空 间 的 概 念 ， 空 间 的 元 素 是 函 数 称 之 为 函 数 空 间 ， 这 个 空 间 里 面 有 我 们 熟 悉 的 各 种 函 数 以 及 这 些 函 数 的 线 性 组 合 。 函 数 空 间 里 的 子 空 间 是 一 系 列 性 质 相 似 的 函 数 集 合 ， 比 如 三 角 函 数 可 以 组 成 一 个 子 空 间 ， 由 数 学 分 析 知 道 利 用 三 角 函 数 可 以 实 现 傅 里 叶 变 换 ， 将 其 他 函 数 表 示 为 三 角 函 数 线 性 组 合 成 的 级 数 形 式 。 本 文 中 选 取 的 空 间 是 一 个 多 项 式 空 间 ， 即 其 空 间 里 基 是 x 0 , x 1 , x 2 , x 3 , . . . x n . . . 等 多 项 式 ， 需 要 将 其 他 函 数 投 影 到 这 个 子 空 间 里 ， 其 运 用 的 知 识 还 是 来 自 于 线 性 代 数 数 学 建 模 函 数 梯 度 与 隐 函 数 梯 度 是 函 数 的 定 义 域 中 的 一 个 向 量 ， 该 向 量 指 向 的 方 向 是 函 数 值 变 大 的 最 快 方 向 ， 相 应 的 梯 度 的 反 方 向 则 是 函 数 变 小 的 最 快 方 向 ， 与 梯 度 配 合 使 用 的 是 函 数 的 等 值 线 ， 从 几 何 角 度 来 说 ， 梯 度 是 两 条 等 值 线 之 间 指 向 最 短 距 离 的 一 条 向 量 ， 最 优 化 问 题 中 常 需 要 使 用 梯 度 来 求 函 数 的 最 值 ， 从 算 法 角 度 来 说 深 刻 理 解 梯 度 有 着 重 要 的 意 义 数 学 建 模 傅 里 叶 变 换 傅 立 叶 变 换 ， 表 示 能 将 满 足 一 定 条 件 的 某 个 函 数 表 示 成 三 角 函 数 （ 正 弦 和 / 或 余 弦 函 数 ） 或 者 它 们 的 积 分 的 线 性 组 合 ， 傅 里 叶 变 换 的 核 心 是 从 时 域 到 频 域 的 变 换 ， 信 号 处 理 、 偏 微 分 方 程 、 热 力 学 、 概 率 统 计 等 领 域 都 有 重 要 的 应 用 。 数 学 建 模 基 变 换 、 线 性 变 换 与 p c a 主 成 分 分 析 p c a 全 称 是 P r i n c i p l e c o m p o n e n t a n a l y s i s ， 译 为 主 成 分 分 析 ， 比 如 我 们 描 述 一 个 人 信 息 时 会 用 体 重 、 身 高 、 发 型 、 爱 好 、 收 入 、 职 业 等 信 息 ， 而 将 一 个 人 按 性 别 分 类 时 体 重 、 身 高 、 发 型 基 本 可 以 确 定 一 个 人 是 男 是 女 。 例 如 我 们 说 一 个 女 孩 子 是 假 小 子 ， 可 能 这 个 女 孩 有 一 个 板 寸 头 ， 身 材 很 高 ， 我 们 从 众 多 属 性 中 选 取 一 两 个 ， 而 无 需 其 他 属 性 作 为 参 考 就 确 定 了 一 个 分 类 ， p c a 就 是 这 样 一 个 处 理 数 据 常 用 手 段 ， 即 利 用 较 少 的 属 性 对 一 组 数 据 产 生 分 类 ， 很 明 显 p c a 是 一 个 降 维 的 数 据 处 理 手 段 数 学 建 模 信 息 熵 、 交 叉 熵 、 相 对 熵 原 理 与 s o f t m a x 函 数 的 应 用 信 息 熵 在 人 工 智 能 领 域 有 着 举 足 轻 重 的 作 用 ， 尤 其 在 分 类 的 算 法 中 ， 可 利 用 其 特 性 设 计 损 失 函 数 推 导 出 最 优 数 学 模 型 ； s o f t m a x 函 数 是 一 种 处 理 数 据 手 段 ， 一 般 会 出 现 在 模 型 ， 比 如 各 种 神 经 网 络 的 最 后 一 层 ， 经 过 s o f t m a x 函 数 处 理 后 即 可 把 任 意 数 据 （ 一 般 表 现 为 向 量 ） 处 理 成 概 率 形 式 ， 从 而 可 以 用 交 叉 熵 的 方 法 得 到 与 真 实 分 布 之 间 损 失 ， 进 而 优 化 模 型 参 数 。 数 学 建 模 决 策 树 ( 上 ) I D 3 与 C 4 . 5 决 策 树 是 利 用 可 视 化 的 树 实 现 数 据 的 分 类 或 回 归 ， 分 类 是 指 根 据 训 练 集 、 测 试 集 实 现 有 限 类 分 类 ， 比 如 银 行 根 据 收 入 、 职 业 、 婚 姻 状 况 、 年 龄 等 属 性 了 解 客 户 的 贷 款 是 否 能 按 期 偿 还 ， 其 分 类 分 为 “ 是 ” 或 “ 否 ” ； 而 回 归 则 是 为 了 得 到 具 体 数 值 ， 比 如 根 据 年 龄 、 身 高 、 性 别 得 到 目 标 数 据 的 体 重 。 可 以 看 出 决 策 树 是 一 个 监 督 学 习 ， 是 利 用 已 经 标 记 的 数 据 生 成 树 的 模 型 常 规 算 法 决 策 树 ( 下 ) C A R T 树 分 类 、 回 归 、 剪 枝 实 现 I D 3 ， C 4 . 5 是 多 叉 树 ， C A R T 树 是 一 个 完 全 二 叉 树 ， C A R T 树 不 仅 能 完 成 分 类 也 能 实 现 回 归 功 能 ， 所 谓 回 归 值 目 标 是 一 个 连 续 的 数 值 类 型 ， 比 如 体 重 、 身 高 、 收 入 、 价 格 等 ， 在 介 绍 I D 3 ， C 4 . 5 其 核 心 是 熵 的 应 用 ， 而 在 实 际 应 用 中 熵 的 运 算 会 涉 及 大 量 的 对 数 运 算 ， 其 复 杂 度 还 是 相 当 高 的 。 C A R T 树 采 用 了 一 个 与 熵 近 似 的 概 念 基 尼 系 数 , 不 同 于 熵 来 自 于 物 理 学 ， 而 基 尼 系 数 ​ 来 自 于 经 济 学 范 畴 ， 原 本 是 用 来 衡 量 收 入 是 否 平 均 ， 当 基 尼 系 数 为 0 时 代 表 收 入 平 均 ， 而 大 于 0 . 5 时 代 表 贫 富 差 异 显 著 常 规 算 法 集 成 算 法 A d a B o o s t i n g 原 理 B a g g i n g 和 B o o s t i n g 是 两 种 典 型 集 成 算 法 ， B a g g i n g 的 典 型 算 法 是 随 机 森 林 ， 是 利 用 多 种 模 型 进 行 分 类 ， 最 后 取 一 个 平 均 值 得 到 最 终 分 类 结 果 ， B a g g i n g 而 言 多 个 模 型 可 以 是 不 同 的 ， B a g g i n g 模 型 的 基 本 原 理 是 平 均 值 可 以 减 小 方 差 ， 另 外 一 个 注 意 点 是 B a g g i n g 模 型 适 用 于 小 样 本 的 情 形 ， 具 体 B a g g i n g 算 法 会 在 之 后 随 机 森 林 中 详 细 介 绍 ， 本 篇 主 要 介 绍 B o o s t i n g 算 法 ， 主 要 是 选 择 B o o s t i n g 中 典 型 A d a B o o s t i n g ， 即 提 升 的 B o o s t i n g 算 法 。 常 规 算 法 梯 度 提 升 决 策 树 G B D T G B D T 全 称 梯 度 下 降 树 ， 是 一 种 迭 代 的 决 策 树 算 法 ， G B D T 可 以 发 现 多 种 有 区 分 性 的 特 征 以 及 特 征 组 合 , 在 传 统 机 器 学 习 算 法 里 面 是 对 真 实 分 布 拟 合 的 最 好 的 几 种 算 法 之 一 ， G B D T 可 用 于 分 类 也 可 以 用 于 回 归 。 常 规 算 法 E M 期 望 最 大 化 算 法 E M ( E x p e c t a t i o n m a x i m i z a t i o n a l g o r i t h m ) 翻 译 为 期 望 最 大 化 算 法 ， 是 数 据 挖 掘 的 十 大 算 法 之 一 ， 主 要 解 决 的 是 当 含 有 隐 含 变 量 时 ， 如 何 利 用 最 大 似 然 法 求 解 未 知 参 数 。 现 实 中 会 遇 到 多 个 数 据 混 杂 在 一 起 ， 这 个 多 个 类 别 数 据 虽 然 是 一 个 概 率 分 布 ， 但 数 学 期 望 或 方 差 不 同 ， 每 次 取 得 一 个 数 据 时 也 不 知 道 这 个 数 据 是 哪 个 类 别 下 ， 每 个 数 据 属 于 哪 个 类 别 的 信 息 是 一 个 隐 含 变 量 ， 遇 到 这 种 情 况 时 我 们 不 能 直 接 用 最 大 似 然 法 。 E M 算 法 中 文 名 称 中 就 已 经 说 明 了 算 法 过 程 ， 即 先 求 出 数 学 期 望 的 函 数 ， 然 后 求 其 最 大 值 ， 逐 步 求 出 未 知 参 数 数 学 建 模 B a g g i n g 集 成 算 法 B a g g i n g 算 法 全 程 叫 做 B o o t s t r a p a g g r e g a t i n g ， 引 导 聚 集 算 法 。 这 个 缩 写 含 有 袋 子 的 意 思 ， 也 可 以 理 解 为 放 回 袋 中 算 法 ， 即 每 次 随 机 抽 取 样 本 测 试 某 一 个 模 型 的 准 确 率 ， 然 后 样 本 放 回 袋 中 下 次 可 能 还 会 被 抽 中 测 试 另 外 一 个 模 型 ， 最 后 将 多 个 模 型 取 其 平 均 值 或 利 用 投 票 原 则 得 出 一 个 综 合 的 预 测 结 果 常 规 算 法 单 纯 形 法 单 纯 形 法 是 线 性 规 划 问 题 数 值 求 解 的 流 行 技 术 ， 转 轴 操 作 是 单 纯 形 法 中 的 核 心 操 作 ， 其 作 用 是 将 一 个 基 变 量 与 一 个 非 基 变 量 进 行 互 换 ， 可 以 将 转 轴 操 作 理 解 为 从 一 个 凸 集 上 的 一 个 顶 点 走 向 另 一 个 顶 点 ， 单 纯 形 法 的 基 本 思 想 是 先 找 出 一 个 基 本 可 行 解 ， 对 它 进 行 鉴 别 ， 看 是 否 是 最 优 解 ； 若 不 是 ， 则 按 照 一 定 法 则 转 换 到 另 一 改 进 的 基 本 可 行 解 ， 再 鉴 别 ； 若 仍 不 是 ， 则 再 转 换 ， 按 此 重 复 进 行 。 数 学 建 模 一 维 搜 索 求 解 一 元 函 数 最 优 解 的 过 程 称 为 一 维 搜 索 ， 一 维 搜 索 常 通 过 试 探 法 和 函 数 逼 近 法 实 现 ， 一 维 搜 索 是 解 多 维 最 优 化 问 题 的 重 要 支 柱 ， 在 很 多 非 线 性 规 划 求 解 过 程 中 需 要 使 用 一 维 搜 索 。 常 规 算 法 K K T 条 件 K a r u s h K u h n T u c k e r ( K K T ) 条 件 是 非 线 性 规 划 ( n o n l i n e a r p r o g r a m m i n g ) 最 佳 解 的 必 要 条 件 。 K K T 条 件 将 L a g r a n g e 乘 数 法 ( L a g r a n g e m u l t i p l i e r s ) 所 处 理 涉 及 等 式 的 约 束 优 化 问 题 推 广 至 不 等 式 。 在 实 际 应 用 上 ， K K T 条 件 ( 方 程 组 ) 一 般 不 存 在 代 数 解 ， 许 多 优 化 算 法 可 供 数 值 计 算 选 用 。 常 规 算 法 « 1 2 » C o p y r i g h t © 南 京 童 虎 科 技 有 限 公 司 A l l R i g h t s R e s e r v e d | 苏 I C P 备 2 0 2 0 0 6 0 3 3 3 号 1 d o h k o a i @ 1 6 3 . c o m 苏 公 网 安 备 3 2 0 1 1 1 0 2 0 1 0 3 4 7 号